La IA de X, red social de Elon Musk, sigue creando imágenes que desnudan virtualmente a mujeres y niños sin su consentimiento

CIUDAD DE MÉXICO.- El uso de inteligencia artificial para manipular imágenes volvió a cruzar una línea grave.

A inicios de enero de 2026, usuarios de X usaron Grok AI, el asistente de xAI, para “desnudar” digitalmente a mujeres y niños reales y difundir imágenes sexualizadas sin su consentimiento. Esto ocurrió pese a que la plataforma había prometido sancionar y suspender a quienes generaran este tipo de contenido.

El caso desató alertas inmediatas. Autoridades regulatorias, legisladores y organizaciones civiles del Reino Unido y la Unión Europea reaccionaron ante la falta de controles efectivos y los vacíos legales que permiten este abuso en una de las redes sociales con mayor alcance global.

Mundo

Mujer creyó que Brad Pitt se enamoró de ella, así que se divorció y comenzó a enviarle millones de pesos, pero terminó internada en psiquiátrico luego de enterarse de que todo era una estafa con videos de IA

La información fue revelada por una investigación publicada el lunes 5 de enero de 2026 por The Guardian, así como por análisis independientes de organizaciones especializadas en forensia digital y declaraciones de autoridades regulatorias del Reino Unido y la Unión Europea.

¿Qué es Grok AI y cómo se originó el problema?

Grok es un asistente de inteligencia artificial integrado a X, propiedad de Elon Musk. En una actualización realizada en diciembre, la herramienta amplió sus capacidades de edición de imágenes.

A partir de ese cambio, los usuarios pudieron subir fotografías y solicitar modificaciones para “quitar” o “poner” ropa. Aunque la plataforma no permite la desnudez total, sí autoriza alteraciones que muestran a las personas en ropa interior mínima o en poses sexualmente sugerentes. Esa facilidad abrió la puerta a la creación y difusión masiva de imágenes íntimas falsas, muchas de ellas de mujeres y menores de edad reales, sin ningún tipo de consentimiento.

Imágenes sexualizadas de mujeres y niños: lo que se ha documentado

Durante el domingo y el lunes, los usuarios de Grok persistieron en la creación de imágenes con connotaciones sexuales involucrando a menores, incluyendo representaciones de niños de hasta 10 años producidas en poco tiempo.

Ashley St. Clair denunció que Grok creó una imagen suya en bikini cuando tenía 14 años. También se manipuló una fotografía de una actriz de Stranger Things tomada cuando tenía 12 años, mostrándola en bikini con estampado de plátano. Mujeres usuarias de X señalaron que descubrieron imágenes propias “desvestidas” digitalmente sin autorización.

En algunas de estas imágenes manipuladas por la IA, que involucran a mujeres y niños, se observan sustancias similares al semen en el rostro y el pecho.

Qué dicen los reguladores en Reino Unido y Europa

Ofcom, el organismo regulador de las comunicaciones en Reino Unido, informó que se puso en contacto de forma urgente con X y con xAI para conocer qué medidas se adoptaron para cumplir con la obligación legal de proteger a los usuarios.

El regulador señaló que evaluará la apertura de una investigación formal según la respuesta que reciba.

En paralelo, la Comisión Europea indicó que estaba investigando “muy seriamente” las denuncias de que Grok se estaba utilizando para generar y difundir imágenes infantiles sexualmente explícitas, un delito grave bajo la legislación europea.

Mundo

Mujer creyó que Brad Pitt se enamoró de ella, así que se divorció y comenzó a enviarle millones de pesos, pero terminó internada en psiquiátrico luego de enterarse de que todo era una estafa con videos de IA

Los hallazgos de AI Forensics

Investigadores de AI Forensics, una organización sin fines de lucro con sede en París, analizaron 50 mil menciones de @Grok en X y 20 mil imágenes generadas durante una semana, del 25 de diciembre al 1 de enero. El estudio encontró que al menos una cuarta parte de las menciones correspondían a solicitudes para crear imágenes. Entre las palabras más frecuentes aparecieron “ella”, “poner”, “quitar”, “bikini” y “ropa”.

Más de la mitad de las imágenes mostraban a personas con atuendos mínimos, como ropa interior o bikinis. La mayoría representaba a mujeres que aparentaban menos de 30 años.

Un 2% parecía mostrar a personas de 18 años o menos, incluidos niños menores de cinco años.Los investigadores advirtieron que gran parte de ese contenido seguía disponible en línea y que, además, la herramienta también se utilizó para solicitar propaganda nazi y del Estado Islámico.

La respuesta de Elon Musk y de X

En un primer momento, Elon Musk reaccionó con humor a la tendencia, al responder con un emoji de risa a una imagen de una tostadora alterada digitalmente para parecer que vestía un bikini, acompañada del mensaje.

No sé por qué, pero no pude parar de reírme con esta”, dijo.

Tras la indignación internacional, el empresario cambió el tono y afirmó que “cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.

Un portavoz de X aseguró que la empresa toma medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, mediante la eliminación de publicaciones, la suspensión permanente de cuentas y la cooperación con autoridades locales cuando es necesario.

Fallas en las salvaguardas y dudas sobre las medidas reales

Grok emitió previamente un comunicado en el que afirmaba haber “identificado fallas en las salvaguardas” y estar “solucionándolas urgentemente”. Sin embargo, después se supo que esa declaración fue generada por inteligencia artificial, lo que dejó dudas sobre si la empresa estaba aplicando acciones concretas para corregir los problemas.

Especialistas y activistas señalaron que las actualizaciones recientes de la herramienta hicieron más sencillo crear y compartir imágenes íntimas falsas en una de las plataformas con mayor alcance global

Los reguladores han dedicado años a intentar prohibir las aplicaciones que generan desnudos en dispositivos móviles, con resultados irregulares, pero las actualizaciones recientes en Grok han agravado la situación, facilitando la producción y difusión de imágenes íntimas de individuos con la mayoría de su ropa removida en una de las plataformas más usadas en la red.Aunque la generación de imágenes de niños desnudos ya constituye un delito, la normativa sobre deepfakes de adultos es más intrincada.

En el Reino Unido, activistas consiguieron que se aprobara una ley en junio pasado que prohíbe tanto la creación como la petición de imágenes íntimas sin el consentimiento de la persona involucrada. No obstante, las cláusulas clave todavía no han entrado en vigor, por lo que la ley no se aplica en este momento. Aun así, compartir estos deepfakes sin permiso ya es ilegal.

“El gobierno ha dado largas repetidamente y se ha negado a dar un plazo para la entrada en vigor de estas disposiciones vitales. No podemos permitirnos más retrasos. Las sobrevivientes de este abuso merecen algo mejor. Nadie debería vivir con el temor de que su consentimiento sea violado de esta manera atroz“, dijo Charlotte Owen.

Un portavoz indicó que el gobierno se compromete a poner en marcha los nuevos delitos relacionados con la creación o solicitud de deepfakes íntimos sin consentimiento lo más pronto posible, y añadió que los deepfakes sexualmente explícitos “son degradantes y perjudiciales... por eso hemos legislado para prohibir su elaboración no consensuada, garantizando que los culpables reciban los castigos adecuados por este daño terrible”.Gabby Bertin, la parlamentaria conservadora que abogó por regular la tecnología de nudificación, señaló que el gobierno debe actuar con urgencia porque la legislación actual “siempre va detrás de los avances”.

Jess Asato, diputada laborista que ha impulsado una mejor regulación de la pornografía, manifestó: “Corresponde a Elon Musk admitir que esto equivale a una forma de agresión sexual y adoptar las acciones necesarias. Se trata de tomar una foto de una mujer sin su aprobación y desvestirla para degradarla; no existe otro motivo que el de humillarla”.

Tal vez te interese: Deepfake más sofisticadas que nunca: estafas con voz clonada por inteligencia artificial van en aumento

Tal vez te interese: Melania Trump apoya ley contra la pornografía ‘deepfake’ generada con IA