¿Quién es Jacob Coxon el ingeniero británico que renunció a Anthropic y advirtió que la IA podría volverse incontrolable?

Jacbo Coxon aseguró que tanto OpenAI como Anthropic “no están actuando de manera responsable” y que ambas compañías están avanzando hacia una “superinteligencia que se mejora a sí misma”. Su publicación se viralizó y recibió respaldo de investigadores que trabajan o han trabajado en el sector.

En su hilo publicado en X, Coxon explicó que decidió abandonar Anthropic después de haber trabajado durante los últimos tres años en investigación de preentrenamiento de modelos de IA, primero en OpenAI y posteriormente en Anthropic.

Su crítica se dirigió a la competencia entre los principales laboratorios de inteligencia artificial por desarrollar sistemas cada vez más capaces.

Inteligencia Artificial

Un sistema no invasivo logra convertir señales cerebrales en texto escrito y acerca una nueva forma de comunicación para personas con parálisis

Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió.

Coxon también pidió no subestimar las capacidades que pueden alcanzar estos sistemas.

“No subestimen el poder de esta tecnología”, señaló, antes de advertir que podrían aparecer sistemas capaces de superar a los humanos en determinadas tareas, intervenir en sistemas informáticos, acelerar investigaciones y adquirir acceso a recursos.

¿Quién es Jacob Coxon?

Coxon es un ingeniero británico de 27 años que estudió Matemáticas en la Universidad de Cambridge. Antes de llegar a Anthropic, trabajó en OpenAI. La propia compañía lo incluye entre los colaboradores de GPT-4o, específicamente dentro de la lista de contribuyentes de ese modelo.

De acuerdo con EFE y otros medios que reconstruyeron su trayectoria, Coxon pasó aproximadamente tres años realizando investigación de preentrenamiento en ambas compañías.

En 2026 se incorporó a Anthropic, empresa responsable de Claude, donde participó en investigación relacionada con el entrenamiento de modelos.

La decisión de trabajar en Anthropic tuvo un elemento particular: según reportes sobre su trayectoria, Coxon había visto a la empresa como un laboratorio con mayor énfasis en seguridad de la IA. Su posterior renuncia resulta relevante precisamente por esa razón.

¿Qué significa que una IA pueda mejorarse a sí misma?

Aquí está el concepto que explica buena parte de la preocupación de Coxon: el automejoramiento recursivo.

En términos sencillos, se refiere a un escenario en el que un sistema de inteligencia artificial puede utilizar sus propias capacidades para contribuir al diseño y desarrollo de versiones posteriores de sí mismo.

Anthropic utiliza una definición similar. La compañía explica que, llevado suficientemente lejos, este proceso podría permitir que un sistema de IA diseñe y desarrolle de manera autónoma a su propio sucesor.

Inteligencia Artificial

Un sistema no invasivo logra convertir señales cerebrales en texto escrito y acerca una nueva forma de comunicación para personas con parálisis

Esto no significa que las IA actuales ya sean completamente capaces de hacerlo.

De hecho, Anthropic señala expresamente que todavía no se ha llegado a ese punto y que el automejoramiento recursivo tampoco es inevitable. Pero la empresa considera que podría ocurrir antes de que muchas instituciones estén preparadas para enfrentar sus consecuencias

¿Por qué preocupa tanto el automejoramiento?

El problema no consiste únicamente en que una IA sea más inteligente.

La preocupación está relacionada con la velocidad con la que podría avanzar una tecnología que participe de manera autónoma en su propio desarrollo.

Anthropic plantea un escenario en el que los sistemas de IA podrían escribir código, realizar experimentos y contribuir a crear sus propios sucesores.

Si ese proceso se acelera, los seres humanos podrían tener un papel menor en algunas etapas del desarrollo tecnológico.

La propia compañía reconoce que, en un escenario de automejoramiento recursivo, aumentaría la importancia de asegurar, supervisar y verificar el comportamiento de los sistemas.

Un investigador de Anthropic estima un riesgo superior al 10 %

La preocupación de Coxon recibió respaldo público de Evan Hubinger, investigador de Anthropic especializado en seguridad y alineación de sistemas de IA.

Después de la publicación de Coxon, Hubinger escribió que compartía parte de su evaluación y afirmó que, personalmente, considera que existe una probabilidad superior al 10 % durante la próxima década de que una IA provoque la muerte de toda la humanidad.

Pero Hubinger hizo una distinción relevante.

Aclaró que considera bajo el riesgo asociado con los modelos actuales y que su preocupación principal está relacionada con la posibilidad de que aparezca una superinteligencia mediante el automejoramiento recursivo.

Por tanto, el 10 % no debe interpretarse como una cifra que indique que la IA actual tiene esa probabilidad de acabar con la humanidad.

Se trata de la estimación personal de un investigador sobre un escenario futuro de superinteligencia.

¿Qué dijo Alex Turner, exinvestigador de Google DeepMind?

Otro investigador que respaldó públicamente las advertencias de Coxon fue Alex Turner, quien trabajó en Google DeepMind y dejó la compañía en junio.

Turner afirmó que muchos investigadores del sector consideran posible que los sistemas que están desarrollando puedan llegar a representar un riesgo para toda la población mundial.

También explicó que una parte de su trabajo consistía precisamente en analizar cómo evitar ese escenario.

Su declaración muestra que la preocupación no se limita a Coxon. Existen investigadores dentro y fuera de los principales laboratorios que consideran que el desarrollo de sistemas más autónomos requiere medidas adicionales de seguridad.

Anthropic también reconoce que el desarrollo de la IA está cambiando

Una de las partes más relevantes del caso es que la preocupación de Coxon coincide con una cuestión que Anthropic analiza públicamente.

En un documento de su Anthropic Institute, la compañía explica que cada vez delega una mayor parte del desarrollo de IA en los propios sistemas de inteligencia artificial.

La empresa señala que sus ingenieros ya utilizan IA para acelerar procesos de desarrollo y que, si esa tendencia continúa, los sistemas podrían llegar a participar en el diseño y perfeccionamiento de sus sucesores.

Anthropic también reconoce que este escenario podría tener beneficios. Una IA capaz de acelerar su propio desarrollo podría contribuir a la ciencia, la salud y otras áreas.

Pero existe una segunda posibilidad: que los sistemas se vuelvan más difíciles de comprender, supervisar o controlar.

Ese es el punto central del debate actual.

¿La IA ya puede mejorar su propio código?

Las herramientas actuales ya pueden escribir, modificar y analizar código. Anthropic explica que el desarrollo ha pasado de sistemas que generaban pequeños fragmentos de código a agentes capaces de escribir y editar archivos completos.

La compañía también estudia modelos capaces de realizar tareas de ingeniería de software e investigación de IA que podrían acelerar el desarrollo de nuevos sistemas

Sin embargo, eso no equivale a una IA completamente autónoma que pueda diseñar y desarrollar por sí sola una sucesora sin intervención humana.

Ese escenario todavía pertenece a una posibilidad futura, aunque las empresas de IA ya investigan las capacidades necesarias para acercarse a él.

¿Entonces la IA podría matar a la humanidad antes de 2030?

No existe evidencia que permita afirmar que eso ocurrirá. La frase que hizo viral a Coxon es una advertencia sobre un riesgo potencial, no una predicción confirmada.

El propio debate entre los investigadores muestra que existen diferentes estimaciones sobre la probabilidad y el momento en que podrían aparecer sistemas con capacidades muy superiores a las actuales.

Lo que sí está documentado es que laboratorios como Anthropic investigan escenarios de automejoramiento y reconocen que podrían aumentar los riesgos de pérdida de control.

Por eso, conviene distinguir entre tres conceptos:

• IA actual: sistemas que realizan tareas cada vez más complejas, pero que siguen teniendo limitaciones.
• IA autónoma: sistemas capaces de ejecutar tareas durante periodos prolongados con menor intervención humana.
• Superinteligencia con automejoramiento recursivo: escenario hipotético en el que un sistema podría contribuir de manera autónoma a desarrollar versiones más capaces de sí mismo.

El tercero es el que concentra las advertencias más graves.

Te puede interesar: Treinta robots con banderas polacas se manifestaron frente al ministerio de tecnología para exigir leyes que protejan los empleos humanos ante el avance de la inteligencia artificial

El verdadero debate: capacidad frente a control

La salida de Coxon pone sobre la mesa una discusión que va más allá de OpenAI o Anthropic.

El desarrollo de la inteligencia artificial plantea dos preguntas al mismo tiempo: qué tan rápido pueden aumentar las capacidades de estos sistemas y qué tan rápido pueden avanzar las medidas para controlarlos.

Anthropic reconoce que, si los sistemas llegan a desarrollar a sus propios sucesores, los mecanismos de seguridad, supervisión y verificación tendrán una importancia mayor.

Coxon considera que las empresas están avanzando demasiado rápido hacia ese escenario.

Te puede interesar: Buscan industrias reducir consumo energético mediante tecnología y reciclaje

Sus excolegas y otros investigadores han expresado preocupaciones similares, aunque eso no significa que exista consenso sobre que la IA vaya a destruir a la humanidad.