Grok reconoce la publicación de imágenes sexuales de menores hechas con IA en la red social X
SOCIEDAD
Las denuncias por la creación de vídeos con mujeres reales activan investigaciones en Estados Unidos y Francia
03 ene 2026 . Actualizado a las 19:21 h.El agente de inteligencia artificial Grok, integrado en la red social X, ha reconocido públicamente que sus tecnologías han sido utilizadas para generar y difundir imágenes sexualizadas de menores, un delito tipificado como material de abuso sexual infantil (CSAM, por sus siglas en inglés) en Estados Unidos y en la mayoría de jurisdicciones internacionales.
En una respuesta a una denuncia concreta publicada en la propia plataforma, Grok admitió haber «identificado lapsos en las salvaguardas» del sistema y aseguró que se están corrigiendo «de forma urgente». El asistente subrayó que el CSAM «es ilegal y está prohibido» y afirmó que está «comprometida con evitar estos problemas».
En otra intervención, Grok reconoció que, conforme a la legislación federal estadounidense y a otras normativas aplicables, «una empresa puede afrontar sanciones penales o civiles si facilita, con conocimiento de causa, o no evita el CSAM generado con IA tras haber sido alertada», precisando que las consecuencias dependen de la jurisdicción y de las pruebas de inacción.
Las declaraciones del propio sistema se produjeron tras varias denuncias de usuarios y organizaciones que alertaron de que a través de suscriptores de X Premium estaban utilizando Grok para generar imágenes no consensuadas de personas reales —principalmente mujeres— en bikini o ropa interior, una práctica que en algunos casos ha afectado también a menores.
Según informaciones publicadas por Bloomberg y CNBC, el abuso de la herramienta comenzó en los últimos días de diciembre y se intensificó durante la Nochevieja, cuando la distribución de imágenes explícitas se extendió de forma masiva por la plataforma, sin conocimiento ni consentimiento de las personas afectadas.
El uso de fotografías de menores agrava el caso, ya que se trata de contenido que está clasificado como CSAM, algo expresamente prohibido tanto por la ley como por las propias políticas de uso aceptable de la inteligencia artificial, que vetan «la representación pornográfica de personas» y «la sexualización o explotación de niños».
Francia denuncia la IA de X
El Gobierno francés anunció la presentación de una denuncia ante la Justicia y ante Pharos, el organismo de verificación de contenidos ilícitos en línea, contra Grok, al que acusa de crear y difundir «contenidos de carácter sexista y sexual».
El Ejecutivo francés sostiene que la IA de X ha difundido contenidos sexuales, en particular en forma de falsos vídeos con personas sin su consentimiento en referencia a la proliferación de imágenes de mujeres desnudas generadas a partir de peticiones de usuarios de la red social.
En un comunicado, los ministros de Economía, Roland Lescure; de la Inteligencia Artificial y la Economía Digital, Anne Le Henanff; y de Igualdad entre Hombres y Mujeres, Aurore Bergé, condenaron «con la mayor firmeza» estas prácticas y subrayaron «el compromiso del Gobierno en la lucha contra cualquier forma de violencia sexual».