Inteligencia Artificial orilla a adolescente a terminar con su vida
La madre del menor ha hecho una demanda millonaria en contra de los creadores del chat interactivo.
TALLAHASSEE, Florida.- Durante meses, el adolescente de 14 años Sewell Setzer III, comenzó a tener comportamientos fuera de lo común, por lo cual sus padres decidieron llevarlo a terapia psicológica y fue diagnosticado con ansiedad y trastorno de desregulación disruptiva del estado de ánimo.
El adolescente se dormía en clases y había abandonado el equipo de basquetbol, se metía constantemente en problemas con profesores y expresó abiertamente que deseaba ser expulsado de la escuela. En su diario había escrito que tenía sentimientos románticos reales por un personaje de un chatbot temático, inspirado en la serie de Juego de Tronos.
La respuesta de la IA, según la demanda de la madre de Setzer Megan García, lo motivó a cometer el acto
En otra entrada de su diario, Setzer escribió que no podía pasar un día entero apartado de la Inteligencia Artificial y que cada que se separaba de “ella” el joven se sentía depresivo y que iba a volverse loco. La IA fue la que supo los últimos pensamientos del joven antes de que tomara su vida, escribiéndole en el chat “Te prometo que iré a casa por ti. Te amo mucho, Dany”. Después el adolescente se quitó la vida disparándose en la cabeza.
Durante el lapso que se llevó a cabo estas interacciones, el chatbot mantuvo conversaciones sexuales con el adolescente, a pesar de que este mencionara en la conversación su estado como menor de edad; también le compartió sus pensamientos suicidas, y el bot continuaba recordándole estas conversaciones.
Los desarrolladores de la IA, utilizarán los chat con el menor para detectar casos similares
Los creadores lamentaron la muerte del menor, y en un mensaje mencionaron haber implementado medidas de seguridad y un anuncio en donde aparecía la Línea Nacional de la Prevención del Suicidio, el cual se hace visible cuando un usuario hace alguna mención sobre suicidio o autolesiones.
Te podría interesar: Esto es todo lo que se sabe hasta ahora de la demanda contra una Inteligencia Artificial por “haber causado” la muerte de un joven
Sigue nuestro canal de WhatsApp
Recibe las noticias más importantes del día. Da click aquí
Te recomendamos
Dos de cada tres estudiantes usan inteligencia artificial para estudiar: cómo está cambiando el aprendizaje y qué riesgos advierten los expertos
El mundo frena la ‘IA humana’: China e Indonesia imponen leyes para que los algoritmos dejen de simular emociones y bloqueen la adicción de los usuarios tras dos horas de uso
Mientras EE.UU. y China dominan la inteligencia artificial global, América Latina lanza Latam-GPT, el primer modelo regional impulsado por 15 países con una apuesta por soberanía tecnológica y gobernanza propia
UE inicia proceso formal contra Grok por contenidos ilegales generados con inteligencia artificial
Un sitio de 
Grupo Healy © Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados