Jacob Coxon renuncia a Anthropic tras acusar a la empresa y a OpenAI de acelerar hacia una superinteligencia sin garantías suficientes de control, mientras un líder de alineación de la compañía respalda parte de sus temores y estima en más de 10% el riesgo de que una inteligencia artificial avanzada pueda provocar la extinción humana durante la próxima década si no se resuelven problemas de seguridad y alineación
El investigador de 27 años acusó a Anthropic y OpenAI de avanzar demasiado rápido hacia sistemas capaces de mejorarse a sí mismos; un responsable de alineación de Anthropic respaldó públicamente parte de sus temores.
Jacob Coxon, investigador británico de 27 años que trabajó durante los últimos tres años en el preentrenamiento de modelos de OpenAI y Anthropic, renunció a esta última compañía y acusó a ambos laboratorios de avanzar de manera irresponsable hacia sistemas de inteligencia artificial capaces de mejorarse a sí mismos.
Coxon anunció su salida el martes 8 de septiembre de 2026 mediante una publicación en X. En su mensaje sostuvo que OpenAI y Anthropic están compitiendo por llegar primero a una eventual superinteligencia y afirmó que están “jugando con nuestras vidas”. Su advertencia fue recogida por medios internacionales y respaldada parcialmente por investigadores que continúan trabajando en Anthropic.
Qué dijo Jacob Coxon al abandonar Anthropic
Coxon explicó que su trabajo se concentró en preentrenamiento, la fase en la que los modelos procesan grandes cantidades de información antes de posteriores etapas de ajuste y especialización.
Su argumento central no fue que los sistemas disponibles hoy vayan necesariamente a causar una catástrofe, sino que las compañías están acercándose, a su juicio, a modelos mucho más capaces sin haber resuelto cómo mantenerlos bajo control si comienzan a intervenir de forma creciente en su propio desarrollo.
El investigador también afirmó que dentro de la industria existen preocupaciones más graves de las que suelen expresarse públicamente y pidió no subestimar las capacidades que podrían adquirir futuros sistemas.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Coxon considera que una carrera de esas características no debería depender exclusivamente de decisiones empresariales y planteó como alternativas una mayor intervención gubernamental o una desaceleración coordinada entre los principales laboratorios.
La discusión ocurre después de episodios que ya han llevado a las compañías a reforzar controles sobre capacidades concretas. En agosto, EL IMPARCIAL documentó que OpenAI endureció las medidas alrededor de Astra después de evaluaciones relacionadas con capacidades avanzadas de ciberseguridad. OpenAI reforzó los controles sobre Astra por sus capacidades de ciberseguridad
El respaldo de un investigador de Anthropic dio más peso a la advertencia
Horas después de la renuncia, Evan Hubinger, líder de ciencia de alineación de Anthropic, respondió públicamente que compartía la preocupación de fondo.
Hubinger calculó personalmente en más de 10% la posibilidad de que la inteligencia artificial provoque la extinción humana durante la próxima década y reconoció que Anthropic todavía no cuenta con una solución para el problema de alinear una eventual superinteligencia con objetivos humanos.
Ese porcentaje debe interpretarse con precisión: es una estimación personal de Hubinger, no una evaluación oficial de Anthropic ni una predicción científica de que la humanidad vaya a desaparecer antes de 2030.
El propio investigador matizó que considera bajo el peligro de los modelos actuales. Su preocupación está concentrada en un posible escenario futuro de automejora recursiva, en el que sistemas cada vez más capaces participen en la investigación y creación de generaciones posteriores de IA.
Anthropic sí cuenta con políticas de riesgo, pero el problema técnico sigue abierto
La polémica no significa que Anthropic carezca de mecanismos de seguridad.
La empresa mantiene una Responsible Scaling Policy, actualizada durante 2026, con umbrales de riesgo, evaluaciones, hojas de ruta de seguridad y reportes sobre modelos avanzados. Su página oficial registra como vigente la versión 3.4 y un informe de riesgo publicado en agosto.
La diferencia está entre disponer de controles para los sistemas actuales y afirmar que ya existe una solución definitiva para una futura superinteligencia. Es precisamente ese segundo problema el que Hubinger reconoció que permanece sin resolver.
El debate regulatorio también se ha intensificado fuera de las empresas. EL IMPARCIAL ha documentado medidas de supervisión adoptadas en Europa y llamados a construir reglas internacionales para reducir riesgos relacionados con sistemas avanzados de IA. La Unión Europea endureció la vigilancia sobre empresas de inteligencia artificial
Bill Gates planteó impulsar reglas globales ante los riesgos de la inteligencia artificial
OpenAI también ha pedido “extrema cautela”
La discusión no se limita a la denuncia del exempleado.
El 6 de septiembre, tres días antes de que el caso de Coxon adquiriera repercusión internacional, Jakub Pachocki, científico jefe de OpenAI, publicó un ensayo en el sitio oficial de la empresa en el que afirmó que el momento actual exige “extrema cautela”.
Pachocki señaló que el avance de la IA podría sostenerse hacia procesos de automejora recursiva y sostuvo que ningún laboratorio ha resuelto todavía la alineación y el monitoreo hasta un nivel que permita continuar escalando indefinidamente a máxima velocidad. También defendió desaceleraciones voluntarias y una mayor coordinación internacional.
Estos planteamientos forman parte de una discusión previa. En 2025, cientos de científicos y figuras públicas ya habían pedido detener el desarrollo de una superinteligencia hasta contar con condiciones de seguridad y control aceptables. Más de 700 figuras pidieron detener el desarrollo de una superinteligencia artificial
La renuncia de Coxon, por tanto, no demuestra que una IA vaya a extinguir a la humanidad antes de 2030. Sí exhibe una discusión cada vez más pública dentro de los propios laboratorios sobre cuánto debe acelerarse el desarrollo, qué riesgos pueden aceptarse y quién debería decidir cuándo un sistema se ha vuelto demasiado poderoso para continuar avanzando bajo las mismas reglas.
Los puntos centrales de la advertencia
- Jacob Coxon renunció a Anthropic después de trabajar durante tres años entre esa empresa y OpenAI.
- Acusó a ambas compañías de competir por desarrollar una superinteligencia capaz de participar en su propio mejoramiento.
- Evan Hubinger estimó personalmente un riesgo superior al 10% durante la próxima década, pero aclaró que considera bajo el riesgo de los modelos actuales.
- Anthropic y OpenAI tienen programas de seguridad, aunque investigadores de ambas compañías reconocen que la alineación de sistemas mucho más avanzados sigue siendo un problema abierto.
Sigue nuestro canal de WhatsApp
Recibe las noticias más importantes del día. Da click aquí
Te recomendamos
Un sitio de 
Grupo Healy © Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados