Preguntarle síntomas a la IA: Qué tan confiable es y cuándo sí ir al médico

La inteligencia artificial puede servir para obtener información general sobre salud, pero no debe utilizarse para diagnosticar enfermedades ni para sustituir la valoración de un profesional de atención médica. Los sistemas pueden ofrecer respuestas incorrectas, reproducir información falsa o sesgada y cambiar sus resultados según la forma en que se describen los síntomas.

La información proporcionada para esta nota señala que el uso de herramientas de inteligencia artificial para resolver dudas de salud es cada vez más común.

De acuerdo con el material atribuido a Mayo Clinic, casi 8 de cada 10 adultos en Estados Unidos utilizan internet para buscar respuestas relacionadas con la salud, mientras que más de 1 de cada 5 adultos a nivel mundial recurre directamente a chatbots de inteligencia artificial para consultar estos temas. El alcance de esas cifras corresponde a las poblaciones señaladas en la fuente. Mayo Clinic

¿Por qué la inteligencia artificial puede equivocarse al hablar de salud?

Una respuesta generada por un chatbot puede parecer clara y convincente, pero eso no significa que sea correcta. El problema es especialmente relevante cuando una persona intenta interpretar síntomas o decidir si necesita atención médica.

Las principales limitaciones señaladas en el material son:

• No cuenta con toda la información clínica: una herramienta de inteligencia artificial no tiene acceso al expediente médico completo y tampoco puede realizar una exploración física.
• No puede sustituir estudios médicos: un profesional puede solicitar análisis, estudios de imagen u otras pruebas para valorar una enfermedad; un chatbot no puede realizar ese proceso.
• Puede generar información falsa: los sistemas pueden producir respuestas que parecen correctas, pero contienen datos inventados o incorrectos, un fenómeno conocido como “alucinación”.
• Puede reproducir sesgos: los datos utilizados para entrenar estos sistemas pueden contener vacíos o representar de manera insuficiente determinadas experiencias culturales o poblacionales.
• Puede repetir información errónea: si sus fuentes contienen datos falsos o engañosos, la herramienta puede reproducirlos en sus respuestas.
• La forma de preguntar modifica la respuesta: pequeñas diferencias en la descripción de los síntomas pueden provocar resultados distintos.

¿Qué riesgo existe al consultar síntomas con un chatbot?

El riesgo aumenta cuando una persona utiliza la respuesta de la inteligencia artificial para decidir si tiene una enfermedad o si necesita atención médica.

El material pone como ejemplo la consulta sobre fatiga. Una persona que lleva varias semanas cansada podría recibir una lista de posibles causas que incluya estrés, anemia, trastornos de la tiroides, depresión, enfermedades crónicas o cáncer.

El problema es que una lista de posibilidades no equivale a un diagnóstico. Sin una valoración clínica, no es posible determinar cuál de esas condiciones explica los síntomas de una persona. Mayo Clinic

También se menciona un estudio en el que dos personas consultaron sobre los mismos síntomas utilizando palabras diferentes. La inteligencia artificial solamente indicó a una de ellas que debía acudir a un servicio de atención médica de emergencia.

¿Cómo usar la inteligencia artificial de manera más segura para temas de salud?

La recomendación central es utilizar estas herramientas como asistentes para obtener información general, no como sustitutos de profesionales de atención médica.

Estas son algunas medidas prácticas:

• Utilizarla para entender conceptos médicos: por ejemplo, pedir una explicación sencilla de qué significa hipertensión.
• Buscar información general sobre bienestar: puede ayudar a obtener ideas sobre actividad física u otros temas generales.
• Comprobar la información: contrastar las respuestas con fuentes confiables y revisar las dudas con el equipo de atención médica.
• Hacer preguntas específicas: una consulta concreta puede generar información más útil que una pregunta demasiado amplia.
• No asumir que una respuesta es un diagnóstico: los síntomas pueden tener distintas causas y requieren valoración clínica.
• Proteger los datos personales: evitar compartir nombre completo, fecha de nacimiento, domicilio, expedientes médicos o información del seguro.
• Ser especialmente cuidadoso con información de salud: el material recomienda prudencia al compartir este tipo de datos en plataformas públicas o gratuitas.

¿Qué información no conviene compartir con una inteligencia artificial?

La privacidad es otro de los aspectos que deben considerarse al utilizar chatbots para resolver dudas médicas.

De acuerdo con el material proporcionado, es recomendable evitar introducir:

• Nombre completo.
• Fecha de nacimiento.
• Dirección.
• Expediente médico.
• Datos del seguro médico.
• Información personal innecesaria relacionada con la salud.

La recomendación no implica dejar de utilizar estas herramientas para obtener información general, sino limitar los datos personales que se proporcionan durante la consulta.

¿Para qué sí puede servir la inteligencia artificial en temas de salud?

La herramienta puede tener utilidad como apoyo para entender términos, organizar dudas y preparar preguntas para una consulta médica.

Por ejemplo, en lugar de pedirle a un chatbot que determine si una persona tiene una enfermedad, puede utilizarse para comprender el significado de un término médico o para conocer cuáles son algunas preguntas que podría plantear posteriormente a un profesional. Mayo Clinic

La fuente recomienda considerar la inteligencia artificial como un asistente de investigación, no como un profesional de atención médica. Las decisiones relacionadas con diagnóstico y tratamiento deben tomarse con la orientación de un profesional de confianza.