El Gobierno francés denuncia a Grok, la inteligencia artificial de X, por crear imágenes de mujeres con poca ropa
INFORMACIÓN
Elon Musk ha creado una foto suya en bikini como respuesta a las avalancha de reclamaciones sobre el mal uso de esta herramienta
02 ene 2026 . Actualizado a las 19:50 h.Francia ha anunciado este viernes que ha presentado una denuncia ante la Justicia, y ante el organismo de verificación de contenidos ilícitos en línea Pharos, contra la inteligencia generativa Grok de la red social X por crear y divulgar «contenidos de carácter sexista y sexual».
En un comunicado, el ministro de Economía, Roland Lescure; la responsable de la Inteligencia Artificial y la Economía Digital, Anne Le Henanff, y la ministra de Igualdad entre Hombres y Mujeres, Aurore Bergé, señalaron que dan ese paso amparándose en el artículo 40 del Código Penal.
Lo hacen porque dicen que «estos últimos días» Grok ha permitido generar y difundir «contenidos de carácter sexista y sexual, en particular en forma de falsos vídeos (deepfakes) con personas sin su consentimiento».
Se refieren así a la avalancha que se ha constatado sobre todo desde finales de diciembre de vídeos elaborados a partir de las peticiones de usuarios de X que le pedían a su inteligencia artificial que generara imágenes de mujeres desnudas y eso sin pedirles permiso.
Los tres ministros franceses condenaron «con la mayor firmeza» estas prácticas y subrayaron «el compromiso constante del Gobiernoen la lucha contra cualquier forma de violencia sexual y sexista».
Insistieron en que internet no es ni un espacio sin ley ni «una zona de impunidad» y que los delitos sexuales en línea son infracciones penales sobre las que se aplica la legalidad, como al resto.
En paralelo a su acción ante la Justicia, el Ejecutivo francés ha pedido a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que verifique si X ha incumplido las obligaciones que derivan del Reglamento de Servicios Digitales de la Unión Europea, en particular en lo que respecta a la prevención de difusión de contenidos ilícitos.
Otras denuncias
Una avalancha de usuarios ya había denunciado que los suscriptores de X Premium están utilizando Grok para generar imágenes no consensuadas de personas en bikini o ropa interior.
«¿Cómo es posible que esto no sea ilegal?», se pregunta Samantha Smith en un post en el que comparte cómo un usuario ha pedido a Grok que transformara una foto de ella en la que sale con un vestido azul sujetando una bandera del Reino Unido en una realista imagen de ella en un pequeño bikini negro.
Smith explica en sus redes que ha probado a preguntar a Grok si podía editar una foto de su primera comunión para que saliera en un bikini y la IA lo ha hecho. «Es absolutamente asqueroso», recalca tras compartir la imagen generada con IA.
Otros usuarios han reclamando en X que Elon Musk realice cambios en esta vanguardista herramienta.
El periodista Sanket Upadhyay, por ejemplo, le ha preguntado a Elon Musk, dueño de la red social, si «dirige una aplicación para pervertidos que no muestra ningún respeto ni dignidad hacia las mujeres».
«Eliminen todo el contenido generado donde las fotos de mujeres fueron modificadas para que aparecieran en bikini o vestidos cortos sin su consentimiento. Esto no es innovación de IA, es una violación de la privacidad», escribe Nandani Sotro, otra usuaria de X.
Según informa la CNBC, este uso Grok se incrementó en los últimos días del año, con una especial escalada en Nochevieja, cuando se amplió la distribución de las imágenes explícitas, sin conocimiento ni consentimiento de las víctimas.
El abuso de esta IA se agrava con el uso de fotografías de menores. Se trata de un tipo de contenido conocido como material de abuso sexual infantil (CSAM, por sus siglas en inglés), ilegal y prohibido en las propias políticas de uso aceptable de xAI, la empresa responsable de Grok. En concreto, las políticas establecen que, para cumplir con la ley, no permite el uso de su servicio para «representar imágenes de personas de manera pornográfica» ni «la sexualización o explotación de los niños».
«Hemos identificado fallos en las salvaguardias y las estamos solucionando urgentemente: el CSAM es ilegal y está prohibido», ha reconocido Grok en respuesta a un usuario que ha expuesto el problema. Los responsables de Grok todavía no se han pronunciado al respecto.
Musk publica una imagen suya en bikini
En medio de esta polémica, Elon Musk ha decidido bromear sobre la polémica y ha creado con Glok una foto suya en bikini.
El propietario de X le ha pedido a la inteligencia artificial que modificara una imagen de alguien en bikini generada por IA para que se pareciera a él, petición que la herramienta ha ejecutado sin problemas. «Perfecto», ha escrito Musk en sus redes tras ver el resultado.
Comentarios nazis
Grok no ha dejado de sumar polémicas. El pasado mes de julio, la IA de Elon Musk calificó de «horrible» el comportamiento mostrado por su chatbot días antes, cuando sorprendió a todos los usuarios de X ofreciendo respuestas y razonamientos abiertamente antisemitas, mostrando admiración hacia los métodos de Adolf Hitler y llegando a autodenominarse MechaHitler. «Queremos mostrar nuestras más profundas disculpas», dijo en un mensaje a través de su cuenta oficial.