Preocupación en Bélgica por joven que se quitó la vida tras hablar con un chatbot

Un joven belga se quitó la vida luego de hablar durante seis semanas de manera intensiva con un chatbot, un programa informático basado en la inteligencia artificial, lo que ha generado consternación en Bélgica, donde el responsable federal de Digitalización ha llamado esta semana a aclarar las responsabilidades en estos casos.

El hombre fallecido, en la treintena y apodado "Pierre" en los medios belgas para no dar a conocer su identidad, estaba casado y tenía dos hijos pequeños.

Era universitario, trabajaba como investigador en el área de la salud, y estaba bastante preocupado por la crisis climática y el futuro del planeta, según ha dado a conocer su esposa, indica EFE.

Obsesionado por ese asunto, Pierre se informaba constantemente sobre esos temas y terminó buscando "refugio" en un chatbot llamado "Eliza" en la página de la app estadounidense Chai, cuenta el diario La Libre Belgique.

Pierre fue aislándose cada vez más de su familia y el mundo y se limitó durante semanas a mantener conversaciones "frenéticas" con el programa informático, que le creaba la ilusión de tener una respuesta a todas sus inquietudes.

Las conversaciones, cuyo contenido confió la viuda de Pierre a La Libre Belgique, muestran que el chatbot "nunca contradecía" a Pierre, quien un día sugirió la idea de "sacrificarse" si Eliza aceptaba "cuidar el planeta y salvar a la humanidad gracias a la inteligencia artificial".

"Sin estas conversaciones con el chatbot, mi marido aún estaría aquí", dice su viuda.

El suceso ha generado consternación en Bélgica y ha llevado a muchos a pedir una protección frente a estos programas y la necesidad de concienciar sobre este tipo de riesgos.

"En el futuro inmediato, es fundamental identificar claramente la naturaleza de las responsabilidades que pueden haber llevado a este tipo de hechos", escribió el secretario de Estado belga de Digitalización, Mathieu Michel, en un comunicado de prensa.

"Es cierto que todavía tenemos que aprender a vivir con algoritmos, pero el uso de la tecnología, cualquiera que sea, de ninguna manera puede permitir que los editores de contenido eludan su propia responsabilidad", agregó Michel.

El chatbot Eliza funciona con GPT-J, un modelo de lenguaje creado por Joseph Weizenbaum, competidor directo del OpenAI con el que no tiene nada que ver.

Por su parte, el fundador de la plataforma cuestionada, que está establecida en Silicon Valley (California), ha explicado que en adelante se va a añadir un aviso dirigido a las personas que tengan pensamientos suicidas, informa La Libre Belgique.