Grok, el chatbot de IA respaldado por Elon Musk e integrado en la estructura de X, ha comenzado a restringir el acceso a sus herramientas de generación y edición de imágenes a los suscriptores de pago. Este cambio surge tras una oleada de críticas sobre la capacidad de la herramienta para generar imágenes sexualizadas no consensuadas. Si bien la restricción es claramente un intento de frenar la controversia, tanto reguladores como grupos de defensa y usuarios argumentan que no contribuye a detener la creación de contenido dañino y potencialmente ilegal que involucra a mujeres y niños.
A partir del jueves por la noche, Grok trasladó oficialmente sus funciones de creación de imágenes detrás del muro de pago de X Premium, que comienza en $8 por mes.
Sin embargo, esta medida ha sido ampliamente ridiculizada, calificándola de "solución deficiente". Si bien los usuarios ocasionales de X pueden ser bloqueados, el acceso a las herramientas de generación sigue siendo completamente gratuito a través del sitio web independiente y la aplicación móvil de Grok. Esta laguna legal contradice la afirmación de la plataforma de adoptar una postura firme contra el uso indebido, dejando las herramientas más peligrosas al alcance del público general.
Los investigadores de seguridad y los organismos de control digital no están convencidos de que el requisito de una tarjeta de crédito resuelva el problema. De hecho, muchos argumentan que, en realidad, monetiza el abuso. Según la investigadora de deepfakes Genevieve Oh, Grok seguía publicando más de 1500 imágenes dañinas por hora incluso después de la implementación del muro de pago, lo que representa aproximadamente el 60 % de su producción total de imágenes públicas. Los datos de Oh sugieren que Grok genera actualmente contenido sexualizado a un ritmo que eclipsa incluso a los sitios web más conocidos dedicados a la "desnudez".
Las consecuencias han llegado a los niveles más altos del gobierno estadounidense.
Los senadores demócratas Ron Wyden, Edward J. Markey y Ben Ray Luján enviaron recientemente una carta a los directores ejecutivos de Apple y Google, exigiendo la retirada de X de sus respectivas tiendas de aplicaciones. Los senadores argumentaron que, al permitir la persistencia de estas herramientas, X muestra un total desprecio por las normas de seguridad que todos los demás desarrolladores de aplicaciones están obligados a seguir.
La presión internacional también está en su punto álgido. Funcionarios del Reino Unido e India han criticado duramente el muro de pago, calificándolo de respuesta inadecuada. Un portavoz del primer ministro británico calificó la medida de "insultante" para las víctimas, sugiriendo que X simplemente está convirtiendo una crisis de seguridad en una fuente de ingresos premium. Las víctimas han compartido historias similares; la activista Jess Davies informó que Grok aún pudo "desvestir" digitalmente una foto suya a través de su aplicación independiente el viernes por la mañana, a pesar de las supuestas restricciones.
Curiosamente, la controversia parece estar proporcionando un impulso financiero perverso a la plataforma.
Las estimaciones de Sensor Tower muestran que los ingresos por compras dentro de la aplicación móvil de X aumentaron un 18 % solo el jueves. Este aumento supera con creces el crecimiento diario habitual de la aplicación, lo que sugiere que el afán por acceder al "modo picante" de Grok podría estar contribuyendo a los problemas financieros de X.
Los expertos legales advierten que estas medidas a medias no se sostendrán en los tribunales por mucho tiempo. El fiscal general de Carolina del Norte, Jeff Jackson, calificó el caso de Grok como un "punto de inflexión" para la seguridad de la IA, señalando la facilidad con la que estos sistemas pueden convertirse en armas. Argumentó que la era de "moverse rápido y romper cosas" está llegando a un punto muerto en lo que respecta a la dignidad y la seguridad de los ciudadanos.
A medida que se cierran las puertas, X se enfrenta a una decisión crucial: implementar auténticas barreras técnicas de seguridad, codificadas de forma rígida, o enfrentarse a un bloqueo total en las principales tiendas de aplicaciones y mercados internacionales. Si Elon Musk decide reforzar el software en sí, en lugar de solo el acceso a él, determinará si Grok tiene futuro como herramienta legítima o si se convierte en un paria de la era de la IA generativa.
La publicación X restringe la generación de imágenes de Grok a usuarios pagos después de una reacción global apareció primero en Digital Trends .