Imágenes sexuales de niños generadas con inteligencia artificial: la nueva amenaza digital que preocupa a la ONU

La Organización de las Naciones Unidas (ONU), a través del Fondo de las Naciones Unidas para la Infancia (Unicef), alertó sobre el creciente uso de herramientas de inteligencia artificial (IA) para crear imágenes sexualizadas de niños y niñas.

El organismo calificó este fenómeno como una forma de abuso sexual infantil y pidió a los países actualizar sus leyes para sancionar estos contenidos.

Un nuevo censo realizado en al menos 11 países reveló que 1.2 millones de niños y adolescentes reconocieron haber sido afectados por imágenes generadas o manipuladas con IA con contenido sexual explícito en el último año.

México

IMÁGENES FUERTES: Hombre se tomó fotos y videos descuartizando a alguien y por error se los envió a su mamá por WhatsApp

En algunos lugares, esta cifra representa aproximadamente 1 de cada 25 niñas o niños, similar a un alumno de cada aula escolar.

Qué tipo de material está en la mira de la ONU

Unicef advirtió que herramientas de IA se utilizan para crear o alterar imágenes, videos o grabaciones de voz con apariencia real —llamadas deepfakes— que incluyen contenido sexual explícito de menores.

Este tipo de material puede implicar técnicas como la “nudificación”, donde se elimina o altera la ropa en fotografías para producir imágenes falsas sexualizadas de menores.

El organismo subrayó que cuando la identidad o imagen de un niño se usa de esta forma, esa niña o niño es considerado directamente víctima del abuso, incluso si no se identifica a la persona real.

Además, el auge de estas imágenes fomenta la normalización de la explotación sexual infantil en entornos digitales y plantea retos complejos para la protección de la infancia.

Por qué este tipo de imágenes constituye abuso

Unicef afirmó que las imágenes sexualizadas de menores generadas por IA son material de abuso sexual infantil (CSAM) y que, aunque la tecnología las produzca artificialmente, el daño que causan no es “falso” ni inofensivo. Esto se debe a que:

• Normalizan la explotación sexual de niñas, niños y adolescentes.
• Pueden alimentar la demanda de contenido abusivo.
• Hace más difícil identificar y proteger a niños que necesitan ayuda ante estas agresiones.

Te puede interesar: Mujeres, las más expuestas al impacto de la IA en el empleo: Estudio advierte que más de 6 millones de trabajadoras están en alto riesgo y más las que ocupan cargos administrativos

Situación legal y desafíos de regulación

Aunque muchos países cuentan con leyes que protegen la imagen, la dignidad y los derechos de los menores, esas regulaciones no contemplan explícitamente la inteligencia artificial.

En México, por ejemplo, el marco legal actual protege la imagen y la voz de niñas, niños y adolescentes, pero no incluye sanciones ni reglas específicas para contenido generado o manipulado con IA.

México

IMÁGENES FUERTES: Hombre se tomó fotos y videos descuartizando a alguien y por error se los envió a su mamá por WhatsApp

Unicef y otros organismos de la ONU están haciendo un llamado a los Estados para:

• Expandir la definición legal del abuso sexual infantil para incluir material generado por IA.
• Penalizar la creación, posesión, distribución y adquisición de este tipo de contenidos.
• Exigir a las empresas tecnológicas aplicar medidas de seguridad desde el diseño, con salvaguardas que reduzcan el riesgo de que sus sistemas sean usados para producir o diseminar material abusivo de este tipo.

Te puede interesar: Tras conocerse que en México 9 de cada 10 estudiantes utilizan IA, la SEP reconoce que las instituciones siguen sin normas ni rumbo claro para su uso

Cómo afecta a la infancia conectada

Los datos oficiales muestran que el uso de internet entre menores es muy alto:

• 50% de niñas y niños entre 6 y 11 años navega en internet.
• 94% de adolescentes de 12 a 17 años utiliza plataformas digitales de forma habitual.Estas cifras subrayan que los entornos digitales son una realidad cotidiana en las vidas de los menores, lo que aumenta los riesgos cuando no hay regulación adecuada ni medidas de protección eficientes.

Expertos señalan que el problema no está en la presencia de los niños en línea, sino en la falta de regulación clara sobre cómo las empresas tecnológicas diseñan y controlan los algoritmos que permiten este tipo de generación o manipulación de imágenes.

Qué se propone para enfrentar la amenaza

Para contrarrestar esta tendencia, Unicef insiste en la necesidad de:

• Fomentar un debate internacional sobre gobernanza de la IA y derechos digitales.
• Desarrollar leyes claras y sanciones contundentes para empresas y personas que generen o distribuyan material de abuso sexual infantil con IA.
• Incrementar la transparencia de algoritmos y el control social sobre cómo se usan estas tecnologías.

La advertencia de la ONU subraya la urgencia de actuar con rapidez, ya que el crecimiento de herramientas de IA y su integración en redes sociales y plataformas de distribución pueden amplificar la circulación de este contenido si no se imponen límites y sanciones firmes.

Te puede interesar: El mundo frena la ‘IA humana’: China e Indonesia imponen leyes para que los algoritmos dejen de simular emociones y bloqueen la adicción de los usuarios tras dos horas de uso