¿Qué son las deepfakes?: Impulsan iniciativas tras estar expuestos el 69% de usuarios en México

Los deepfakes son contenidos audiovisuales alterados con el uso de inteligencia artificial para dar la impresión de que son reales, aunque no lo sean.

A través de técnicas avanzadas de aprendizaje profundo deep learning y redes neuronales generativas adversariales GANs, se pueden crear videos, imágenes o audios donde una persona parece decir o hacer cosas que en realidad nunca sucedieron.

Te podría interesar: Internet estalla por el video erótico ‘deepfake’ de Jacob Elordi

México

VIDEO: Diputada llama “los chafarines de la 4T” a morenistas por desaparecer órganos autónomos

El término proviene de la combinación de “deep learning” aprendizaje profundo y “fake” falso, destacando su naturaleza engañosa y tecnológica.

¿Qué propone la diputada Ana Buendía?

La diputada local de Morena, Ana Buendía, ha propuesto una iniciativa para combatir el uso de deepfakes, es decir, imágenes o videos falsos generados con ayuda de la Inteligencia Artificial.

La legisladora presentó esta propuesta en la Ciudad de México con el objetivo de proteger los derechos a la vida privada, el honor y la propia imagen de los ciudadanos.

Propuesta de ley para sancionar el uso indebido de deepfakes en México

La iniciativa de Ana Buendía plantea adicionar un tercer párrafo al artículo 26 de la Ley de Responsabilidad Civil para la Protección del Derecho a la Vida Privada, el Honor y la Propia Imagen.

Este nuevo apartado consideraría a las deepfakes como una afectación moral que podría ser sancionada legalmente.

Es decir, se busca que el uso indebido de estas herramientas tecnológicas para manipular imágenes o videos de personas sea penalizado.

La diputada enfatizó que la protección de los derechos humanos debe ser una prioridad en México y que es fundamental contar con un marco legal que responda a los desafíos actuales y futuros, en particular aquellos que surgen con el desarrollo de nuevas tecnologías como la Inteligencia Artificial.

¿Por qué es importante esta iniciativa?

La importancia de esta propuesta radica en el incremento del uso de deepfakes en México.

Según datos de Sumsub, una plataforma de verificación de identidad, entre 2022 y 2023 el uso de este tipo de contenido falso aumentó un 700% en el país.

México | Noticias de México | EL IMPARCIAL

Exestudiante del IPN que usó la IA para hacer imágenes sexuales de sus compañeras, es absuelto; permanecerá en prisión por otros cargos

De acuerdo con El Universal, este fenómeno no solo afecta la reputación e imagen de las personas, sino que también plantea serios desafíos a la privacidad y a la seguridad digital.

De acuerdo con la diputada Buendía, el 69% de los usuarios de redes sociales en México ha estado expuesto a deepfakes, lo que refleja la magnitud del problema.

Esta situación deja a muchas personas vulnerables a sufrir daños morales o psicológicos al ver su imagen manipulada o difundida de forma engañosa.

¿Cuál es el objetivo de la propuesta?

La iniciativa de Ana Buendía busca principalmente dos cosas:

• Sancionar a quienes crean y difundan deepfakes de manera indebida.
• Mandar un mensaje claro sobre la prioridad de los derechos humanos en México, comenzando con la capital del país.

La legisladora subrayó que la tecnología avanza rápidamente y con ella surgen nuevos desafíos.

Por lo tanto, el marco legal también debe adaptarse para proteger a las personas de los posibles abusos derivados de la manipulación de su imagen.

Te podría interesar: Investigan a Telegram por “contribuir” a la distribución de contenido deepfake sexualmente explícito en línea

La propuesta ahora deberá pasar por las comisiones correspondientes en el Congreso local para ser evaluada y, en su caso, aprobada.

Si se convierte en ley, establecería un precedente importante en la regulación del uso de deepfakes en México, ofreciendo mayor protección a los ciudadanos en la era digital.