Reino Unido investiga a X por uso de Grok para crear deepfakes sexuales

LONDRES.- El gobierno del Reino Unido y su regulador de medios iniciaron una investigación formal contra X, la red social propiedad de Elon Musk, por el uso de su chatbot de inteligencia artificial Grok en la creación y difusión de imágenes sexuales falsas, conocidas como deepfakes.

El caso se vuelve relevante porque coincide con la entrada en vigor de nuevas leyes que buscan frenar este tipo de contenido y porque podría sentar un precedente sobre cómo deben actuar las plataformas tecnológicas frente a material ilegal generado con inteligencia artificial.

La información fue dada a conocer por Reuters, agencia internacional de noticias, y confirmada por autoridades británicas este lunes 12 de enero.

Mundo

China rechaza críticas del Reino Unido sobre ejercicios militares alrededor de Taiwán y acusa a Londres de “tergiversar los hechos y manipular la verdad”

Tal vez te interese: El mangaka, Yoichiro Tanabe, se disculpa por editar una foto de la idol Riko Kudo en bikini utilizando la Inteligencia Artificial Grok

¿Qué investiga exactamente el regulador británico?

La Oficina de Comunicaciones (Ofcom), regulador de medios del Reino Unido, analiza si X incumplió su obligación legal de proteger a las personas que usan la plataforma en territorio británico frente a contenido ilegal.

El foco está en reportes que señalan que Grok AI habría sido utilizado para crear y compartir imágenes íntimas falsas sin consentimiento, así como material de abuso sexual infantil.

Ofcom fue claro al señalar que no dudará en intervenir cuando detecte riesgos graves, en especial si hay posibles daños a niñas, niños y adolescentes. En un comunicado, el organismo afirmó que los reportes sobre el uso de Grok para estos fines son “profundamente preocupantes”.

¿Por qué este caso es clave para la nueva ley de seguridad en línea?

Esta investigación podría convertirse en la primera gran prueba de la Ley de Seguridad en Línea del Reino Unido, aprobada en 2023 y aplicada de forma gradual.

La norma obliga a las plataformas tecnológicas a:

• Evitar que los usuarios se encuentren con contenido ilegal.
• Eliminar ese contenido una vez que tengan conocimiento de su existencia.
• Evaluar los riesgos que sus servicios representan, especialmente para menores de edad.

Además, esta semana entra en vigor una ley específica que tipifica como delito la creación de deepfakes sexuales. El gobierno británico ha calificado estas imágenes como “armas de abuso”.

Tal vez te interese: Grok, la IA de Elon Musk, llamó “nepobaby” y “gordo inútil” a José Ramón López Beltrán además de acusarlo de vivir del erario; así le respondió el hijo de AMLO

¿Qué dice el gobierno británico sobre los deepfakes?

La ministra de Tecnología, Liz Kendall, afirmó ante el Parlamento que el problema no se limita a castigar a quien comparte el contenido, sino que debe atacarse desde el origen.

Mundo

China rechaza críticas del Reino Unido sobre ejercicios militares alrededor de Taiwán y acusa a Londres de “tergiversar los hechos y manipular la verdad”

Por ello, el gobierno planea una nueva legislación que haga ilegal que las empresas ofrezcan herramientas diseñadas para crear deepfakes sexuales.

Kendall rechazó el argumento de que se trate de un tema de libertad de expresión y fue enfática:“Se trata de abordar la violencia contra las mujeres y las niñas”

También sostuvo que se busca garantizar que los estándares de respeto y decencia que existen fuera de internet se mantengan en el entorno digital.

“Se trata de defender los valores británicos básicos de decencia y respeto y garantizar que los estándares que esperamos fuera de línea se mantengan en línea, y se trata de ejercer nuestro poder soberano”, agrego.

La postura del primer ministro y la presión política

El primer ministro Keir Starmer calificó las imágenes generadas por Grok como “repugnantes” e “ilegales” y señaló que Elon Musk debe “controlar” el funcionamiento del chatbot.

La presión política aumentó cuando el secretario de Negocios, Peter Kyle, fue cuestionado sobre la posibilidad de prohibir X en el Reino Unido. Respondió que “sí, por supuesto”, aunque aclaró que esa decisión correspondería a Ofcom.

¿Cómo respondió X y Elon Musk?

X señaló que mantiene una política activa contra el contenido ilegal. En una declaración previa, la empresa aseguró que elimina este tipo de material, suspende de forma permanente las cuentas involucradas y coopera con gobiernos y autoridades cuando es necesario.

La plataforma también advirtió que cualquier persona que use Grok para crear contenido ilegal enfrentará las mismas sanciones que si lo subiera directamente a X.

Por su parte, Elon Musk escribió el sábado en su red social que, al enfocarse en Grok y X, el gobierno británico “sólo quiere suprimir la libertad de expresión”.

Un problema que ya genera reacciones internacionales

El caso no es exclusivo del Reino Unido. X ha enfrentado cuestionamientos similares en otros países.

Autoridades de Francia denunciaron a la plataforma ante la fiscalía y reguladores, al considerar que el contenido generado es “manifiestamente ilegal”. En India, el gobierno también solicitó explicaciones.

Indonesia y Malasia bloquearon temporalmente el acceso a Grok durante el fin de semana, mientras evaluaban los riesgos del sistema.

X informó que ha restringido las solicitudes para “desnudar” personas en imágenes únicamente a usuarios que pagan por el servicio, aunque esta medida no ha calmado las preocupaciones de los reguladores.

Tal vez te interese: Malasia e Indonesia bloquean Grok, el chatbot de IA de Elon Musk, por generar imágenes sexuales no consensuadas