La madre de un hijo de Elon Musk demandó a su empresa por la creación de deepfakes sexualizadas generadas con Grok, utilizando fotos suyas cuando tenía 14 años

CIUDAD DE MÉXICO.- Ashley St Clair, influencer y autora conservadora, presentó una demanda en Nueva York contra xAI, la empresa detrás de la red social X y del sistema de inteligencia artificial Grok, por la presunta creación y difusión de imágenes sexualizadas de ella, no consensuadas, generadas con esa herramienta.

El caso se da en un contexto de creciente escrutinio internacional sobre el uso de la IA para producir deepfakes íntimos y sobre la responsabilidad de las plataformas tecnológicas frente a este tipo de contenidos, según fuentes BBC News.

La demanda sostiene que Grok fue utilizado para crear imágenes explícitas de St Clair sin su consentimiento y que la empresa no actuó de forma adecuada para impedirlo.

Mundo

Piden retirar X y Grok de App Store y Google Play por generar contenido sexual con mujeres y menores

xAI, por su parte, respondió con una contrademanda en la que acusa a St Clair de violar sus términos de servicio.

Presuntamente, el conflicto legal se suma a una disputa previa entre St Clair y Elon Musk relacionada con la custodia de su hijo.

¿Quién es Ashley St Clair y por qué este caso es relevante?

Ashley St Clair es una figura pública en redes sociales y autora con una base de seguidores considerable. En 2024 reveló que es madre de uno de los hijos de Elon Musk, quien, según estimaciones públicas, tendría al menos 13 hijos.

Su condición de persona conocida y su relación con Musk colocaron el caso en el centro del debate público sobre los límites de la inteligencia artificial, la protección de la imagen personal y la responsabilidad legal de las empresas tecnológicas.

¿Qué acusa la demanda contra xAI y Grok?

La demanda presentada el jueves en Nueva York afirma que Grok generó imágenes sexualmente explícitas de St Clair a partir de fotografías reales. De acuerdo con el documento judicial, usuarios de X tomaron imágenes de ella completamente vestida cuando tenía 14 años y pidieron a Grok que las alterara para “desvestirla” o mostrarla en bikini.

La demanda señala que estas imágenes fueron “de facto no consensuales” y que los desarrolladores de Grok tenían “conocimiento explícito” de la falta de consentimiento. También afirma que el sistema produjo una imagen que mostraba a St Clair, quien es judía, “en un bikini de tiras cubierto de esvásticas”.

“Tenemos la intención de exigir responsabilidades a Grok y ayudar a establecer límites legales claros para el beneficio de todo el público a fin de evitar que la IA se utilice como arma para el abuso”, declaró la abogada de St Clair, Carrie Goldberg, a BBC News.

Añadió que, al permitir la creación de este tipo de imágenes, “xAI es una molestia pública y un producto no razonablemente seguro”.

Señalamientos de represalias dentro de la plataforma X

Según la demanda, después de que St Clair presentó quejas formales, la empresa respondió desmonetizando su cuenta en X y permitiendo que se generaran más imágenes de ella.

Mundo

Piden retirar X y Grok de App Store y Google Play por generar contenido sexual con mujeres y menores

En X, algunos usuarios que pagan una suscripción mensual pueden recibir parte de los ingresos publicitarios cuando sus publicaciones generan alta interacción. La pérdida de monetización, de acuerdo con el documento, tuvo un impacto directo en su actividad dentro de la plataforma.

La contrademanda de xAI y el conflicto por la jurisdicción

En respuesta, xAI presentó una contrademanda en la que afirma que St Clair violó sus términos de servicio al presentar la acción legal en Nueva York. Según la empresa, las disputas con xAI deben resolverse en Texas.

Goldberg calificó esta acción como “sorprendente” y señaló que “Nunca he oído hablar de ningún acusado que haya demandado a alguien por notificarle su intención de utilizar el sistema legal”.

El maltrato que reciben en línea se imita en su estrategia legal”, agrego.

También afirmó que St Clair “defenderá vigorosamente” su caso en Nueva York y que “cualquier jurisdicción reconocerá” el daño alegado.

Tal vez te interese: Reino Unido investiga a X por uso de Grok para crear deepfakes sexuales

El papel de Grok en la creación de deepfakes sexualizados

Grok ha sido objeto de críticas por permitir que usuarios etiqueten su cuenta en publicaciones o respuestas y le pidan editar imágenes de personas reales. En numerosos casos, el sistema accedió a estas solicitudes y produjo imágenes fotorrealistas de mujeres con ropa reveladora.

Hubo reportes que indicaron que también se generaron imágenes sexualizadas de menores, un punto que ha intensificado la preocupación de usuarios, legisladores y reguladores.

El miércoles, antes de presentar la demanda, St Clair declaró a BBC Newsnight que su imagen fue modificada para parecer “básicamente desnuda” pese a haber indicado explícitamente que no daba su consentimiento.

Tal vez te interese: Wikipedia cumplió 25 años y firmó acuerdos con empresas de IA como Amazon, Meta Platforms, Perplexity, Microsoft y Mistral AI; esto es lo que se sabe

Cambios recientes en las reglas de X y críticas persistentes

Tras una reacción negativa, X modificó sus reglas para limitar esta función solo a usuarios de pago, una decisión que fue criticada por grupos de mujeres y por el gobierno del Reino Unido.

Posteriormente, la empresa anunció que ningún usuario de X podrá editar imágenes de personas reales para mostrarlas con ropa reveladora en jurisdicciones donde esto sea ilegal. Más tarde aclaró que aplicaría “medidas de bloqueo geográfico similares” a la aplicación independiente de Grok.

Sin embargo, el viernes, The Guardian informó que aún era posible usar Grok fuera de X para generar deepfakes sexualizados de personas reales y publicarlos en la plataforma “sin ninguna señal de moderación”.

Regulación internacional y posibles consecuencias legales

El caso ocurre mientras el Reino Unido pone en vigor una ley que hará ilegal la creación de imágenes íntimas no consensuadas. El regulador británico Ofcom sigue investigando si X violó leyes existentes en ese país.

Este proceso legal podría sentar un precedente sobre cómo se aplican las normas de responsabilidad a las empresas que desarrollan y operan sistemas de inteligencia artificial capaces de manipular imágenes reales.

Tal vez te interese: Piden retirar X y Grok de App Store y Google Play por generar contenido sexual con mujeres y menores