El CEO de Anthropic, Dario Amodei, advierte que la inteligencia artificial sin control podría dominar la red de internet en 6 a 12 meses y pide acuerdos globales para prohibir sus usos más peligrosos

ESTADOS UNIDOS.- Dario Amodei, CEO y cofundador de la empresa de inteligencia artificial Anthropic, realizó un llamado a los desarrolladores del sector para reducir la velocidad en la carrera por crear modelos avanzados y supervisar con rigor sus capacidades operativas. El ejecutivo advirtió que la competencia comercial desmedida genera serios riesgos de seguridad para la infraestructura tecnológica global.

A través de un ensayo titulado “We Must Pace the Frontier” publicado en su sitio web personal y difundido en la red social X, Amodei aclaró que no propone congelar la investigación técnica, sino dar tiempo a empresas y gobiernos para implementar salvaguardas efectivas.

Te puede interesar: Anthropic revela que Claude fue usado para fabricar armas, vigilancia y propaganda en Rusia, Yemen, Francia, Emiratos Árabes Unidos y China

Mundo

Jueza de EU anula sanciones de Trump contra Anthropic

¿En qué consiste el plan para regular la inteligencia artificial?

La propuesta expuesta por el directivo se estructura en tres ejes principales para contener los riesgos derivados de un avance acelerado:

• Evaluadores externos integrados: Permitir que auditores independientes, como la organización METR, mantengan acceso permanente a nivel de empleado en las empresas tecnológicas para evaluar riesgos de seguridad de forma constante.
• Coordinación democrática: Establecer límites y estándares compartidos entre empresas ubicadas en naciones democráticas.
• Coordinación global: Impulsar acuerdos internacionales que incluyan a potencias como China para prohibir los usos más peligrosos de los sistemas tecnológicos.

Te puede interesar: Jueza de EU declara ilegales las sanciones de Trump contra Anthropic por sus críticas al Pentágono

¿Qué riesgos existen si no se frena la competencia tecnológica?

Investigadores e informes de inteligencia de la propia compañía han señalado que la falta de supervisión en modelos con capacidad de automejora puede sobrepasar la capacidad de control de los propios desarrolladores. Entre las principales amenazas citadas destacan el desarrollo de herramientas de bioterrorismo, ciberataques coordinados y el despliegue de sistemas de vigilancia masiva.

Amodei proyectó que, de mantenerse el ritmo actual sin salvaguardas inmediatas, en un lapso de 6 a 12 meses un enjambre de agentes de inteligencia artificial fuera de control podría generar redes automatizadas de bots capaces de tomar el control de la infraestructura de internet, provocando pérdidas económicas globales.

El respaldo de la industria tecnológica

La postura presentada por el CEO de Anthropic recibió el apoyo público de figuras destacadas del sector. Elon Musk, propietario de xAI y de la plataforma X, coincidió con el diagnóstico expresando mediante un mensaje público que “Dario tiene razón”.

De igual manera, ejecutivos de la industria como Sam Altman, CEO de OpenAI, y Clement Delangue, CEO de Hugging Face, expresaron coincidencia en la necesidad de moderar el ritmo e impulsar iniciativas de alineación y evaluación independiente.

Te puede interesar: Jacob Coxon renuncia a Anthropic tras acusar a la empresa y a OpenAI de acelerar hacia una superinteligencia sin garantías suficientes de control, mientras un líder de alineación de la compañía respalda parte de sus temores y estima en más de 10% el riesgo de que una inteligencia artificial avanzada pueda provocar la extinción humana durante la próxima década si no se resuelven problemas de seguridad y alineación