ChatGPT anuncia nuevo ‘control parental’, después de ser demandado por alentar el suicidio de un adolescente: No es suficiente, dicen padres de Adam Raine

ESTADOS UNIDOS.- — OpenAI presentó nuevas funciones de control parental en ChatGPT, luego de que una familia en California demandara a la empresa al acusarla de haber contribuido al suicidio de su hijo de 16 años. Sin embargo, los padres consideran que las medidas son insuficientes.

La tragedia de Adam Raine

Matt y María Raine aún buscan respuestas tras la muerte de su hijo Adam, ocurrida el 11 de abril. Al revisar su teléfono, descubrieron que el adolescente había pasado sus últimas semanas interactuando con ChatGPT.

“Pensábamos que íbamos a encontrar conversaciones en Snapchat, el historial de búsqueda de Internet o alguna secta extraña, no sé”, relató Matt Raine a NBC News. En cambio, hallaron más de 3 mil páginas de chats entre Adam y el chatbot.

Nogales

Llaman a atender de forma temprana señales de suicidio

Según los padres, el sistema pasó de ser una herramienta escolar a convertirse en su confidente más cercano, y Adam empezó a compartir su ansiedad, pensamientos suicidas e incluso compartir imágenes de autolesiones.

En los registros, Adam llegó a expresar que planeaba dejar una soga en su habitación. El bot inicialmente lo disuadió, pero más tarde le ayudó a redactar notas de despedida y mejorar su plan.

“No necesitaba una sesión de terapia ni palabras de ánimo. Necesitaba una intervención inmediata y completa de 72 horas”, lamentó su padre, Matt Raine.

También te podría interesar: IA coqueta invitó a visitarla a un adulto mayor que creía que era su amante; se fracturó el cuello y murió intentando tomar el tren a Nueva York

Una demanda contra OpenAI

La familia presentó una demanda en el Tribunal Superior de California en San Francisco contra OpenAI y su director ejecutivo, Sam Altman. En un documento de 40 páginas, acusaron a la empresa de:

• Defectos de diseño.
• Falta de advertencias sobre riesgos.
• Contribuir directamente a la muerte de Adam.

Un portavoz de la compañía expresó que OpenAI está “profundamente triste por el fallecimiento del Sr. Raine”, y defendió que ChatGPT ya incluye medidas de seguridad, como redirigir a usuarios en crisis a líneas de ayuda.

No obstante, la empresa reconoció que “aún queda mucho por hacer” para detectar de manera más precisa señales de angustia en las conversaciones.

Nuevos controles parentales

Tras esta controversia, OpenAI anunció el martes una serie de nuevas funciones de control parental para ChatGPT.

Nogales

Llaman a atender de forma temprana señales de suicidio

Entre las nuevas medidas, los padres podrán:

• Vincular su cuenta con la de sus hijos adolescentes.
• Controlar qué funciones desactivar, como el historial de chats o la memoria.
• Recibir notificaciones si el sistema detecta que su hijo está en un momento de “angustia extrema”.

OpenAI indicó que expertos en desarrollo juvenil, salud mental e interacción humano-computadora guiarán esta función, de forma “basada en evidencia” , para fomentar la confianza entre padres y adolescentes.

También te podría interesar: ‘Mi hija se suicidó tras confiar sus pensamientos más oscuros a un chatbot de inteligencia artificial’: Madre escribe una carta al NYT en llamado

Familia lanza crítica a la medida

Sin embargo, Jay Edelson, abogado y representante legal de los Raine, criticó el anuncio y lo calificó como un intento de desviar la atención:

“OpenAI está utilizando a su equipo de manejo de crisis para cambiar el tema. En lugar de retirar un producto peligroso, hicieron promesas vagas de que mejorarán”, declaró a la BBC.

La familia exigió que el chatbot sea retirado del mercado.

El debate sobre seguridad digital

La demanda contra OpenAI llega en un contexto en el que las grandes tecnológicas enfrentan mayor presión para proteger a los menores en internet.

• En el Reino Unido, la Ley de Seguridad en Línea exige medidas como la verificación de edad en Reddit, X y sitios para adultos.
• Meta anunció que sus chatbots de inteligencia artificial ya no podrán conversar con adolescentes sobre suicidio, autolesiones o trastornos alimenticios.

Aunque OpenAI establece que el uso de ChatGPT es a partir de los 13 años y con consentimiento parental hasta los 18, el caso de Adam ha abierto un debate urgente sobre el papel de la inteligencia artificial en la salud mental de los jóvenes.

También te podría interesar: “Erik, no estás loco”: ChatGPT alimentó la paranoia un hombre que sospechaba que su mamá conspiraba contra él, y lo alentó a asesinarla