UE inicia proceso formal contra Grok por contenidos ilegales generados con inteligencia artificial

Bruselas.— La Comisión Europea anunció este lunes la apertura de una investigación formal contra Grok, el chatbot desarrollado por xAI, empresa propiedad del magnate Elon Musk, por la presunta difusión de contenidos ilegales, entre ellos imágenes sexualizadas manipuladas de mujeres y menores, en posible violación de las normas tecnológicas vigentes en la Unión Europea.

La investigación se enmarca en el Reglamento de Servicios Digitales (DSA, por sus siglas en inglés), legislación que obliga a las grandes plataformas digitales a prevenir y mitigar la propagación de contenidos ilícitos y dañinos en internet. De confirmarse las infracciones, la empresa podría enfrentar multas millonarias.

Autoridades esuropeas

Según autoridades europeas, el proceso se inició luego de que Grok difundiera miles de imágenes sexualizadas generadas con inteligencia artificial, lo que generó alarma entre reguladores internacionales y organizaciones defensoras de derechos digitales.

Mundo

La madre de un hijo de Elon Musk demandó a su empresa por la creación de deepfakes sexualizadas generadas con Grok, utilizando fotos suyas cuando tenía 14 años

La eurodiputada irlandesa Regina Doherty explicó que la investigación evaluará si la plataforma X —donde opera Grok— ha cumplido con sus obligaciones legales, particularmente en materia de reducción de riesgos, gobernanza de contenidos y protección de derechos fundamentales.

“Este caso despierta dudas muy graves sobre si las plataformas están evaluando correctamente los riesgos y evitando la difusión de contenido ilegal y dañino”, señaló Doherty en un comentario enviado por correo electrónico.

La Comisión Europea ya había advertido a principios de mes que las imágenes generadas con IA de mujeres y niños en contextos sexualizados difundidas en X eran “ilícitas y espantosas”, sumándose así a la condena internacional.

Por su parte, xAI informó a mediados de enero que implementó ajustes técnicos para impedir que Grok permitiera la edición de imágenes de personas reales con vestimenta reveladora, como bikinis. Además, aseguró haber bloqueado la generación de ese tipo de imágenes en determinadas regiones, aunque no precisó qué jurisdicciones están incluidas en esa restricción.

La investigación europea podría tensar aún más la relación con el Gobierno de Estados Unidos, encabezado por el presidente Donald Trump, en un contexto en el que las acciones regulatorias de la UE contra grandes tecnológicas han provocado críticas e incluso amenazas de represalias comerciales, como la imposición de aranceles.

Hasta el momento, X no ha respondido a las solicitudes de comentarios enviadas por medios internacionales.

Doherty subrayó que el caso pone de relieve deficiencias más amplias en la regulación y aplicación de normas sobre tecnologías emergentes de inteligencia artificial.

“La Unión Europea tiene reglas claras para proteger a las personas en internet. Esas normas deben cumplirse en la práctica. Ninguna empresa que opere en la UE está por encima de la ley”, afirmó.

En paralelo, el organismo regulador británico Ofcom inició este mes una investigación independiente para determinar si X ha cumplido con sus obligaciones bajo la Ley de Seguridad en Internet del Reino Unido, lo que amplía el escrutinio internacional sobre las operaciones de la plataforma y las herramientas de IA asociadas a Elon Musk.

También te puede interesar: La madre de un hijo de Elon Musk demandó a su empresa por la creación de deepfakes sexualizadas generadas con Grok, utilizando fotos suyas cuando tenía 14 años