Abogados son sancionados por confiar en la inteligencia artificial: Un tribunal detectó casos legales inventados en documentos judiciales

ESTADOS UNIDOS.- El uso de inteligencia artificial en el ámbito legal sigue creciendo, pero un caso reciente en Estados Unidos demuestra que confiar ciegamente en estas herramientas puede tener consecuencias serias. Un tribunal federal en Mississippi sancionó a cuatro abogados que presentaron documentos judiciales con referencias legales falsas generadas por sistemas de inteligencia artificial, una situación que volvió a poner bajo la lupa los riesgos de utilizar esta tecnología sin supervisión humana.

La decisión judicial envía el mensaje de que la responsabilidad final sobre la información presentada sigue siendo humana. La tecnología puede ayudar a agilizar procesos, pero no sustituye la verificación de datos ni el criterio profesional.

Qué ocurrió en el caso que terminó con abogados sancionados

El caso surgió durante una disputa relacionada con honorarios en un proyecto de energía solar. Durante el proceso, representantes legales de ambas partes utilizaron herramientas de inteligencia artificial para apoyar la elaboración de documentos judiciales.

Sin embargo, los sistemas generaron referencias legales inexistentes y citaron casos que no correspondían a la legislación aplicable. De acuerdo con la resolución judicial, los abogados presentaron esos documentos sin verificar adecuadamente la información.

La jueza federal Sharion Aycock concluyó que los profesionales incumplieron su obligación de revisar la validez de las fuentes citadas antes de presentarlas ante el tribunal.

En su resolución, la magistrada señaló que los abogados, “por su propia admisión, no comprobaron las autoridades legales citadas en sus escritos, en violación de la Regla 11”.

¿Qué son las “alucinaciones” de la inteligencia artificial?

Uno de los conceptos que más preocupa a especialistas y autoridades es el fenómeno conocido como “alucinaciones” de la IA.

Este término se utiliza para describir situaciones en las que sistemas de inteligencia artificial generan información falsa, inventada o incorrecta, pero presentada de forma convincente y aparentemente creíble.

En el ámbito jurídico, este problema puede ser especialmente delicado porque una cita legal inexistente puede afectar decisiones judiciales, procesos legales y la credibilidad de los profesionales involucrados.

Según información difundida por Infobae a partir de la resolución judicial y reportes de medios estadounidenses, las herramientas utilizadas en este caso produjeron referencias que nunca existieron, pero que fueron incorporadas a documentos oficiales.

Te puede interesar: ¿Usas ChatGPT todos los días?, ¿la inteligencia artificial está atrofiando tu cerebro? Expertos alertan sobre un grave riesgo

Por qué fueron sancionados los abogados

La jueza consideró que el problema no fue únicamente la existencia de errores generados por la inteligencia artificial, sino la falta de revisión posterior por parte de quienes firmaron los documentos.

La Regla 11 de las Reglas Federales de Procedimiento Civil en Estados Unidos establece que los abogados deben garantizar que los hechos, argumentos y referencias presentados ante un tribunal tengan fundamento.

Por ello, la responsabilidad legal no recae en la tecnología, sino en el profesional que decide utilizarla.

Todos los abogados están licenciados y, presumiblemente, bien formados en derecho. Su práctica de confiar ciegamente en la tecnología derivó en citas alucinadas en sus escritos respectivos”, escribió Aycock.

¿Puede pasar algo similar en otros países?

Sí. El debate sobre el uso de inteligencia artificial en actividades legales ya se está desarrollando en distintos países.

De hecho, el estado de Nueva York implementó nuevas reglas relacionadas con la utilización de IA generativa. Entre los cambios más relevantes se encuentra que los resultados obtenidos mediante herramientas como ChatGPT no cuentan automáticamente con la protección del privilegio abogado-cliente.

Esto refleja una tendencia creciente hacia una regulación más estricta y una mayor supervisión sobre el uso profesional de estas tecnologías.

Lo que recomiendan los expertos para usar IA sin riesgos

La American Bar Association (ABA), la principal organización de abogados de Estados Unidos, ha advertido que la inteligencia artificial puede ser una herramienta útil, pero requiere controles permanentes.

Su presidenta, Michelle A. Behnke, señaló que “los abogados entienden que los resultados de la IA generativa requieren escrutinio y supervisión”.

Entre las recomendaciones destacan:

• Verificar cada dato generado por IA.
• Confirmar la existencia de fuentes y referencias citadas.
• No presentar documentos sin revisión humana.
• Comprender las limitaciones de la tecnología utilizada.
• Mantener controles internos sobre el uso de herramientas automatizadas.

Lo que deja este caso para cualquier usuario de inteligencia artificial

Aunque el caso ocurrió en un tribunal, la lección va mucho más allá del mundo jurídico.

La inteligencia artificial puede redactar textos, resumir información y generar contenido en segundos, pero también puede equivocarse e incluso inventar datos. Por ello, cualquier información producida por estas herramientas debe revisarse antes de utilizarse en trabajos, investigaciones, documentos profesionales o decisiones importantes.

El caso de Mississippi demuestra que la IA puede acelerar tareas, pero no elimina la responsabilidad de quienes la utilizan. En temas legales, académicos o profesionales, la verificación sigue siendo indispensable.