Malasia e Indonesia bloquean Grok, el chatbot de IA de Elon Musk, por generar imágenes sexuales no consensuadas

KUALA LUMPUR, Malasia.— Malasia e Indonesia se convirtieron en los primeros países en bloquear Grok, el chatbot de inteligencia artificial desarrollado por xAI, la compañía de Elon Musk, luego de que las autoridades afirmaran que se utilizaba indebidamente para generar imágenes sexualmente explícitas y no consensuadas.

Las medidas reflejan la creciente preocupación global por las herramientas de IA generativa, capaces de producir imágenes, sonidos y textos realistas, mientras que las salvaguardas actuales no logran impedir su abuso. Grok, accesible a través de la red social X, ha sido criticado por generar imágenes manipuladas, incluidas representaciones de mujeres en bikini o en poses sexualmente explícitas, así como imágenes que involucran a niños.

La semana pasada, Grok limitó la generación y edición de imágenes a usuarios de pago, tras una reacción global contra los videos sexualizados manipulados digitalmente (deepfakes), aunque críticos aseguran que las medidas no resolvieron completamente el problema.

Mundo

Una tendencia cuestionable sacude a X, usuarios usan la IA Grok para generar imágenes de personas en poca ropa sin su consentimiento, mujeres denuncian violación a su privacidad y crece la presión para que la plataforma imponga límites urgentes

Una solicitud de comentarios enviada por The Associated Press a xAI recibió una respuesta automática que decía: “Legacy Media Lies” (Mentiras de los medios heredados). El mismo mensaje fue recibido desde otra dirección al insistir en la solicitud.

Los reguladores de ambos países del sudeste asiático señalaron que los controles existentes no impiden la creación ni la difusión de pornografía falsa, especialmente aquella que involucra a mujeres y menores. Indonesia bloqueó temporalmente Grok el sábado, y Malasia hizo lo propio el domingo.

“El gobierno considera que los deepfakes sexuales no consensuados son una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”, afirmó la ministra de Comunicación y Asuntos Digitales de Indonesia, Meutya Hafid.

El ministerio indicó que la decisión busca proteger a mujeres, niños y a la comunidad en general del contenido pornográfico falso generado mediante IA.

Por su parte, Alexander Sabar, director general de supervisión del espacio digital, señaló que Grok carece de salvaguardas efectivas para evitar que los usuarios creen y difundan contenido pornográfico basado en fotografías reales de residentes indonesios, lo que vulnera la privacidad y los derechos de imagen, además de causar daños psicológicos, sociales y reputacionales.

En Kuala Lumpur, la Comisión de Comunicaciones y Multimedia de Malasia ordenó una restricción temporal sobre Grok tras lo que describió como un “uso indebido repetido” para generar imágenes obscenas y sexualmente explícitas sin consentimiento, incluidas aquellas que involucran a mujeres y menores.

El regulador indicó que los avisos enviados este mes a X Corp. y xAI, exigiendo salvaguardas más estrictas, recibieron respuestas basadas principalmente en mecanismos de denuncia por parte de los usuarios.

“La restricción se impone como una medida preventiva y proporcionada mientras los procesos legales y regulatorios están en curso”, señaló el organismo, agregando que el bloqueo se mantendrá hasta que existan salvaguardas efectivas.

Investigación iniciada en el Reino Unido

Grok fue lanzado en 2023 y es gratuito dentro de X. Permite a los usuarios formular preguntas y generar contenido, así como etiquetar publicaciones propias o ajenas. El verano pasado, xAI añadió la función Grok Imagine, que incluía un “modo picante” capaz de generar contenido para adultos.

Mundo

Una tendencia cuestionable sacude a X, usuarios usan la IA Grok para generar imágenes de personas en poca ropa sin su consentimiento, mujeres denuncian violación a su privacidad y crece la presión para que la plataforma imponga límites urgentes

Las restricciones en el sudeste asiático se dan en medio de un creciente escrutinio internacional, que incluye a la Unión Europea, Reino Unido, India y Francia.

El lunes, el regulador de medios del Reino Unido (Ofcom) anunció el inicio de una investigación formal para determinar si Grok cumplió con su deber de proteger a las personas de contenido ilegal.

Ofcom subrayó que las imágenes generadas por Grok de niños sexualizados o personas desvestidas digitalmente pueden constituir pornografía o material de abuso sexual infantil.

“El contenido creado y compartido usando Grok en los últimos días ha sido profundamente perturbador”, afirmó la secretaria de Tecnología británica, Liz Kendall.

También te puede interesar: Grok, la IA de Elon Musk, llamó “nepobaby” y “gordo inútil” a José Ramón López Beltrán además de acusarlo de vivir del erario; así le respondió el hijo de AMLO