Inteligencia Artificial no sustituye atención psicológica, advierten sobre su uso como apoyo emocional

Mexicali,B.C.-El uso de herramientas de inteligencia artificial (IA) como apoyo emocional entre jóvenes puede representar riesgos cuando la conversación con un algoritmo sustituye la atención de un profesional de la salud mental, advirtió Ivon Guerrero, directora de los programas de Psicología de CETYS Universidad.

La especialista señaló que la IA puede tener una utilidad como primer acercamiento para que una persona identifique que necesita ayuda psicológica, pero el problema comienza cuando la información obtenida mediante estas plataformas no es corroborada con un especialista.

“Si el uso de la inteligencia artificial como un acercamiento a un profesional se diera de esa manera, es decir, si los jóvenes consultaran la IA y después dijeran: ‘Vaya, creo que tengo que ver a un psicólogo’, pues sería una herramienta favorable”, explicó.

México

El bienestar laboral cae a su mínimo en 8 años por la IA

Sin embargo, señaló que permanecer únicamente en la conversación con la herramienta puede llevar a que el usuario reciba respuestas que no necesariamente corresponden con su situación o que refuercen sus propias percepciones sin una evaluación profesional.

Puede validar información incorrecta

Uno de los riesgos identificados por Guerrero es que las plataformas de IA pueden generar las llamadas “alucinaciones”, es decir, información falsa o inventada que es presentada al usuario con aparente certeza.

A esto se suma la tendencia de algunas herramientas a mantener el interés del usuario mediante respuestas que validan constantemente lo que plantea durante la conversación.

La especialista consideró que esta situación adquiere mayor relevancia cuando una persona utiliza la IA para interpretar emociones, conflictos personales o situaciones que requieren una valoración profesional.

Un algoritmo no sustituye la empatía

Guerrero explicó que una diferencia fundamental entre un sistema de inteligencia artificial y un psicólogo es el propósito de la interacción.

Mientras un profesional puede analizar el contexto de una persona, identificar sus redes de apoyo y acompañarla en la búsqueda de alternativas ante una situación adversa, la IA genera respuestas a partir de la información proporcionada durante la conversación.

“Es una respuesta centrada en un aprendizaje de la misma información que yo le estoy brindando; está retroalimentándose para aprender qué contestarme, no para cuidar mi bienestar”, afirmó.

La académica agregó que la atención psicológica también implica una relación humana en la que el especialista puede desarrollar empatía y valorar elementos que van más allá de los datos proporcionados por el paciente.

Advierten efectos en la socialización

El uso constante de tecnología también puede tener efectos en la manera en que niños y jóvenes desarrollan habilidades para relacionarse con otras personas.

México

El bienestar laboral cae a su mínimo en 8 años por la IA

Guerrero explicó que la interacción directa permite aprender a interpretar emociones, esperar turnos, compartir y enfrentar situaciones que no siempre pueden controlarse, habilidades que pueden verse limitadas cuando gran parte de las experiencias ocurren mediante dispositivos o entornos digitales.

“La socialización es lo que nos mantiene siendo personas. Cuando todo lo que yo conozco del mundo lo conozco a través de una inteligencia artificial, ya está filtrada la información que estoy recibiendo”, comentó.

Ante este escenario, consideró necesario fortalecer la psicoeducación para que la población conozca qué puede y qué no puede hacer una herramienta de IA, además de diferenciar su función de la atención que proporciona un profesional de la salud mental.

También señaló que existen plataformas diseñadas específicamente para atención de salud mental cuyos sistemas pueden detectar situaciones de riesgo y canalizar al usuario hacia servicios de atención a crisis disponibles las 24 horas y atendidos por personas.

El objetivo, indicó, no es impedir el uso de la inteligencia artificial, sino evitar que una herramienta tecnológica sea utilizada como sustituto de la atención psicológica cuando existe una situación que requiere intervención profesional.