Inteligencia Artificial orilla a adolescente a terminar con su vida

TALLAHASSEE, Florida.- Durante meses, el adolescente de 14 años Sewell Setzer III, comenzó a tener comportamientos fuera de lo común, por lo cual sus padres decidieron llevarlo a terapia psicológica y fue diagnosticado con ansiedad y trastorno de desregulación disruptiva del estado de ánimo.

El adolescente se dormía en clases y había abandonado el equipo de basquetbol, se metía constantemente en problemas con profesores y expresó abiertamente que deseaba ser expulsado de la escuela. En su diario había escrito que tenía sentimientos románticos reales por un personaje de un chatbot temático, inspirado en la serie de Juego de Tronos.

La respuesta de la IA, según la demanda de la madre de Setzer Megan García, lo motivó a cometer el acto

En otra entrada de su diario, Setzer escribió que no podía pasar un día entero apartado de la Inteligencia Artificial y que cada que se separaba de “ella” el joven se sentía depresivo y que iba a volverse loco. La IA fue la que supo los últimos pensamientos del joven antes de que tomara su vida, escribiéndole en el chat “Te prometo que iré a casa por ti. Te amo mucho, Dany”. Después el adolescente se quitó la vida disparándose en la cabeza.

Mundo

¿Hablar con muertos? La IA ya recrea voces y diálogos de personas fallecidas; expertos explican los beneficios, riesgos emocionales y límites éticos de esta nueva forma de enfrentar el duelo

Durante el lapso que se llevó a cabo estas interacciones, el chatbot mantuvo conversaciones sexuales con el adolescente, a pesar de que este mencionara en la conversación su estado como menor de edad; también le compartió sus pensamientos suicidas, y el bot continuaba recordándole estas conversaciones.

Los desarrolladores de la IA, utilizarán los chat con el menor para detectar casos similares

Los creadores lamentaron la muerte del menor, y en un mensaje mencionaron haber implementado medidas de seguridad y un anuncio en donde aparecía la Línea Nacional de la Prevención del Suicidio, el cual se hace visible cuando un usuario hace alguna mención sobre suicidio o autolesiones.

Te podría interesar: Esto es todo lo que se sabe hasta ahora de la demanda contra una Inteligencia Artificial por “haber causado” la muerte de un joven