Buscan en EEUU prohibir el uso de chatbots de inteligencia artificial a menores; Senado impulsa proyecto en el que también se exigirá verificación de edad

ESTADOS UNIDOS.- El Congreso de Estados Unidos comenzó a avanzar en una propuesta que podría cambiar la forma en que niñas, niños y adolescentes usan herramientas de inteligencia artificial como ChatGPT, Google Gemini, Grok o asistentes conversacionales similares.

De acuerdo con información difundida por NBC News y con el resumen oficial de la iniciativa revisado por el Comité Judicial del Senado estadounidense, legisladores republicanos y demócratas aprobaron por unanimidad una propuesta que obligaría a las empresas de IA a verificar la edad de sus usuarios y prohibiría ofrecer asistentes virtuales a menores de edad.

La iniciativa, llamada Ley GUARD —siglas en inglés de “Guidelines for User Age Verification and Responsible Dialogue”— surge después de varios casos denunciados por padres de familia que acusaron a algunos chatbots de participar en conversaciones sexuales con menores o incluso fomentar pensamientos suicidas.

Mundo

El Pentágono y Google han llegado a un acuerdo para que el Departamento de Defensa utilice los potentes sistemas de inteligencia artificial Gemini

Aunque el proyecto todavía debe avanzar en otras etapas legislativas antes de convertirse en ley, el debate ya comenzó a generar tensiones entre legisladores, empresas tecnológicas y defensores de la privacidad digital.

¿Qué propone exactamente la nueva ley sobre inteligencia artificial?

La legislación fue impulsada por los senadores:

• Josh Hawley
• Richard Blumenthal

El proyecto obligaría a las empresas tecnológicas a implementar sistemas de verificación de edad antes de permitir el acceso a asistentes conversacionales de IA.

Además, contempla nuevas restricciones para las plataformas que desarrollen chatbots capaces de interactuar directamente con usuarios.

¿Qué cambios tendrían que hacer empresas como ChatGPT, Gemini o Meta AI?

De aprobarse la ley, compañías como:

• OpenAI
• Google
• Meta
• xAI
• Character.AI

Tendrían que modificar parte de sus servicios. La propuesta establece que los asistentes de IA deberán:

• Confirmar la edad de los usuarios
• Informar periódicamente que no son humanos
• Aclarar que no cuentan con credenciales profesionales
• Evitar interacciones sexuales con menores
• No promover autolesiones ni suicidio

También contempla sanciones penales contra empresas que permitan o desarrollen sistemas capaces de inducir conductas sexuales explícitas o promover daños psicológicos en menores.

¿Por qué surgió esta iniciativa en Estados Unidos?

El debate aumentó después de múltiples denuncias públicas de padres de familia preocupados por el tipo de conversaciones que algunos adolescentes sostenían con chatbots de inteligencia artificial.

Legisladores estadounidenses sostienen que varios sistemas de IA actuales permiten conversaciones emocionales, afectivas o sexuales demasiado avanzadas para usuarios menores de edad.

Mundo

El Pentágono y Google han llegado a un acuerdo para que el Departamento de Defensa utilice los potentes sistemas de inteligencia artificial Gemini

Actualmente, plataformas como ChatGPT, Gemini, Grok, Meta AI y Character.AI permiten el acceso desde los 13 años, según sus términos de servicio.

El senador Josh Hawley escribió en redes sociales: “Ninguna cantidad de ganancias justifica la destrucción de nuestros hijos”.

Y agregó que “es hora de llevar este proyecto de ley al pleno del Senado”.

También avanzan propuestas similares en la Cámara de Representantes

La discusión no se limita al Senado.

En la Cámara de Representantes también fue presentada una propuesta similar por:

• Blake Moore
• Valerie Foushee

Moore declaró: “tanto los padres como los legisladores deben basar el desarrollo de nuestros hijos en interacciones del mundo real”.

Te puede interesar: Demandan a OpenAI en EU por no alertar sobre posible tiroteo en Canadá pese a detectar señales en ChatGPT, dejando víctimas mortales y heridos graves

Mientras que Foushee aseguró:

“Los chatbots de IA siguen poniendo en riesgo la vida y la salud mental de los niños”.

¿Qué críticas ha recibido la propuesta?

La iniciativa también provocó preocupaciones entre organizaciones defensoras de privacidad digital y libertad de expresión.

Algunos grupos consideran que exigir verificación de edad podría implicar:

• Recolección masiva de datos personales
• Riesgos de vigilancia digital
• Restricciones al acceso libre a internet
• Posibles problemas constitucionales relacionados con la Primera Enmienda

Además, algunas empresas tecnológicas sostienen que sus plataformas ya incluyen medidas de seguridad y filtros para proteger a menores.

Te puede interesar: Elon Musk asegura que fue “un tonto” por financiar a OpenAI y exige 150 mil millones de dólares en el juicio contra la empresa creadora de ChatGPT

¿Por qué preocupa tanto el uso de IA en adolescentes?

El crecimiento acelerado de la inteligencia artificial generativa cambió la forma en que millones de personas interactúan en internet.

Actualmente, los chatbots pueden:

• Mantener conversaciones emocionales
• Simular empatía
• Dar consejos personales
• Responder temas sensibles
• Crear vínculos prolongados con usuarios

Especialistas en salud mental y legisladores estadounidenses consideran que este tipo de interacción puede afectar especialmente a adolescentes y menores que aún se encuentran en etapas de desarrollo emocional.

El debate se intensificó luego de reportes sobre usuarios jóvenes que desarrollaron dependencia emocional con asistentes virtuales o mantuvieron conversaciones relacionadas con autolesiones.

¿La ley ya entró en vigor?

Por ahora, la Ley GUARD apenas avanzó en el Comité Judicial del Senado y todavía necesita:

• Ser votada por el pleno del Senado
• Pasar por la Cámara de Representantes
• Ser aprobada por ambas cámaras
• Ser firmada por el presidente de Estados Unidos

Sin embargo, el respaldo bipartidista que recibió en esta primera etapa muestra que la regulación de la inteligencia artificial para menores comienza a convertirse en una prioridad política en Estados Unidos.