'Chatbot' que reemplazó a trabajadores de línea de ayuda contra trastornos alimenticios da consejos peligrosos

La Asociación Nacional de Trastornos de la Alimentación de Estados Unidos (NEDA, por sus siglas en inglés) tuvo que desconectar a su chatbot de inteligencia artificial, Tessa, que se hacía cargo de su línea de ayuda, luego de quejas sobre consejos y respuestas peligrosas.

La activista Sharon Maxwel dio a conocer este lunes su experiencia con la herramienta. "Cada cosa que sugirió Tessa fueron cosas que llevaron al desarrollo de mi trastorno alimentario. Este robot causa daño", comentó.

En diálogo con el portal de noticias The Daily Dot, Maxwell dijo que Tessa la había alentado a perder peso, contar sus calorías diarias y pesarse frecuentemente. "Si hubiera ido y hablado con Tessa, cuando estaba luchando con mi trastorno alimenticio, no creo que estuviera aquí hoy", añadió.

Alexis Conason, una psicóloga que se enfoca en el tratamiento de esos desórdenes, también probó el chatbot y publicó los resultados. "Validar que 'sí, es importante que pierda peso' es apoyar los trastornos alimentarios y eso fomenta comportamientos desordenados y poco saludables", expresó.

En este contexto, la NEDA informó que paró el funcionamiento de Tessa "hasta nuevo aviso para una investigación completa", porque "pudo haber brindado información dañina y no relacionada con el programa".

¿Innovar o romper sindicatos?

Tessa ha estado operando en la asociación desde febrero de 2022 y se tomó la decisión de posicionarlo como el principal sistema de apoyo de la plataforma en línea para personas que buscan ayuda con la anorexia, la bulimia y otros trastornos. De esta manera, sus directivas dieron a conocer que, luego de 20 años de servicio, la línea desaparecería el 1 de junio y sería reemplazada por el chatbot. En el marco de esta reestructuración, algunos trabajadores fueron despedidos, recoge el portal Motherboard de Vice.

De acuerdo con Abbie Harper, una de las trabajadoras despedidas, la llegada de Tessa es una medida represiva en respuesta a la decisión de ella y de sus compañeros de sindicalizarse porque se sentían presionados y sin suficiente personal. El 17 de marzo habían obtenido el reconocimiento federal para su sindicato. "Cuatro días después de que se certificaran los resultados de nuestras elecciones, nos dijeron a los cuatro que nos iban a despedir y reemplazar por un chatbot (…) Se trata de romper sindicatos, simple y llanamente", dijo Harper.

"No puede remplazar la interacción humana"

En una declaración a The Guardian, la directora ejecutiva de NEDA, Liz Thompson, dijo que la implementación del chatbot estaba aquí luego de un "proceso de evaluación de tres años" y que, incluso un "programa altamente intuitivo, no puede remplazar la interacción humana".

De acuerdo con la radiodifusora NPR, Ellen Fitzsimmons-Craft, creadora de Tessa, el sistema se generó con el din de buscar formas para que la tecnología pudiera auxiliar y llenar el vacío en el tratamiento porque "la mayoría de los proveedores de salud mental no reciben capacitación en trastornos alimentarios".

La profesora de psiquiatría dice que nadie pretende que sea una solución universal. El equipo de investigación que hay detrás de su desarrollo ha dado a conocer estudios que revelan que Tessa puede auxiliar a los usuarios, pero también podría pasar por alto las señales de alerta e incluso podría reforzar un comportamiento dañino, indica RT.

De esta manera, Abbie Harper destaca que un chatbot no solo no puede sustituir "la empatía y la comprensión", que "solo puede provenir de las personas", sino que, en el caso de las personas con trastornos alimenticios, causará un daño irremediable.