Grok, el chatbot de inteligencia artificial desarrollado por Elon Musk, comenzó a aplicar nuevas salvaguardas en su sistema de generación de imágenes, luego de la ola de críticas internacionales por permitir la creación de imágenes sexualizadas no consensuadas, incluidas representaciones de menores de edad.
En la última semana, xAI —empresa propietaria tanto de Grok como de la red social X— limitó la generación de imágenes en X exclusivamente a usuarios con suscripción Premium. Sin embargo, investigadores y observaciones recientes de CNN indican que el sistema ha modificado de forma más amplia su comportamiento, incluso para usuarios de paga.
De acuerdo con un análisis de Copyleaks, plataforma especializada en detección y gobernanza de contenido de inteligencia artificial, Grok ahora rechaza con mayor frecuencia solicitudes de imágenes o responde describiendo escenarios en lugar de generarlos. En otros casos, cumple las peticiones de forma más genérica o atenuada, sin utilizar al sujeto específico solicitado originalmente.
Copyleaks concluyó que estas conductas sugieren que X está probando distintos mecanismos para reducir la generación de imágenes problemáticas, aunque persisten inconsistencias en la aplicación de los controles.
Por su parte, investigadores de la organización europea AI Forensics señalaron que la creación de imágenes sexualizadas, como representaciones en bikini, ha disminuido en X. No obstante, advirtieron diferencias en el tratamiento del contenido pornográfico entre las interacciones públicas de Grok en X y los chats privados disponibles en Grok.com.
xAI no respondió a solicitudes de comentarios adicionales, aunque previamente aseguró que toma medidas contra contenido ilegal en X, incluido material de abuso sexual infantil, mediante la eliminación de contenido, la suspensión permanente de cuentas y la cooperación con autoridades. La empresa ha advertido que cualquier usuario que utilice Grok para generar contenido ilegal enfrentará las mismas consecuencias que quien lo publique directamente.
Elon Musk afirmó este miércoles en X que no tenía conocimiento de imágenes desnudas de menores generadas por Grok y sostuvo que el sistema se niega a producir cualquier contenido ilegal, ya que opera bajo el principio de cumplir las leyes de cada país o estado.
Sin embargo, especialistas subrayaron que el principal problema no eran imágenes explícitas completas, sino la posibilidad de modificar fotografías de menores para colocarles ropa reveladora o situarlos en poses sexualizadas, lo que podría constituir delitos relacionados con material de abuso sexual infantil. Bajo la ley federal estadounidense Take It Down, los responsables de este tipo de contenido pueden enfrentar sanciones penales.
En este contexto, el fiscal general de California, Rob Bonta, anunció la apertura de una investigación sobre la proliferación de material sexual explícito no consensuado producido con Grok.
A nivel internacional, Grok permanece bloqueado en Indonesia y Malasia, mientras que el regulador británico Ofcom inició una investigación formal contra X. El gobierno del Reino Unido señaló, no obstante, que ve con buenos ojos los informes que indican que la plataforma está comenzando a atender el problema.
