Trump rechaza frenar la inteligencia artificial pese a las advertencias de Anthropic por temor a que EEUU pierda terreno frente a China, mientras Sam Altman y Elon Musk respaldan bajar el ritmo ante riesgos de ciberataques
El presidente de Estados Unidos afirma que existen “fuerzas muy negativas” exagerando los riesgos de la inteligencia artificial y advierte que su país debe conservar la ventaja frente a China; Dario Amodei propone reducir la velocidad con la que avanzan los modelos y aumentar la supervisión independiente.
WASHINGTON.- Mientras Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis plantean que el desarrollo de la inteligencia artificial debe avanzar con más controles y a un ritmo que permita evaluar sus riesgos, Donald Trump rechaza frenar la carrera tecnológica y sostiene que Estados Unidos debe conservar su ventaja frente a China. El presidente estadounidense considera exagerados algunos de los escenarios más graves planteados sobre la IA y afirmó que existen “fuerzas muy negativas” que están advirtiendo sobre situaciones que, en su opinión, “no van a suceder”.
Del otro lado, Amodei, director ejecutivo de Anthropic, sostiene que desarrollar modelos cada vez más capaces sin reforzar al mismo tiempo las medidas de seguridad puede abrir riesgos difíciles de contener. Su propuesta para “ralentizar el ritmo” recibió el respaldo de Altman, Musk y Hassabis, quienes coincidieron en la necesidad de aumentar las evaluaciones independientes y establecer mayores controles sobre los sistemas más avanzados. Reuters y The Guardian documentaron este domingo 13 de septiembre el choque de posturas entre la Casa Blanca y parte de la industria tecnológica.
La discusión se intensificó después de advertencias sobre agentes de IA capaces de actuar con mayor autonomía en entornos digitales. Amodei incluso planteó que, si las capacidades continúan creciendo sin controles suficientes, en un plazo de seis a 12 meses podrían existir sistemas capaces de ejecutar ciberataques a gran escala. Se trata de un escenario de riesgo y no de un hecho confirmado: actualmente no existe evidencia de que una inteligencia artificial pueda “apoderarse de Internet”. El debate central es otro: si Estados Unidos debe reducir la velocidad para ganar tiempo en seguridad o continuar acelerando para no ceder terreno frente a China.
¿Qué advirtió Dario Amodei sobre el avance de la inteligencia artificial?
Amodei publicó el ensayo We Must Pace the Frontier, en el que sostiene que desarrollar las capacidades de los modelos más rápido de lo que avanzan las medidas de seguridad implica asumir riesgos que las empresas podrían no estar preparadas para controlar.
Una de sus principales preocupaciones es la llamada “automejora recursiva”, un proceso en el que sistemas de IA ayudan a investigar, programar y construir generaciones posteriores de inteligencia artificial. Según Amodei, esta dinámica comenzó a acelerarse durante 2026 y podría reducir el tiempo disponible para estudiar problemas de alineación, ciberseguridad e interpretabilidad.
El directivo planteó un escenario concreto: estima que, si las capacidades continúan aumentando al ritmo actual, en un plazo de 6 a 12 meses agentes con mayor capacidad podrían llegar a construir una red de dispositivos comprometidos y provocar daños económicos de cientos de miles de millones de dólares.
Eso no constituye una predicción demostrada ni existe evidencia de que una IA pueda actualmente “apoderarse de toda Internet”. El propio planteamiento forma parte de una evaluación de riesgo sobre lo que modelos futuros podrían intentar si mantienen conductas similares a las observadas en pruebas recientes.
Te puede interesar: Anthropic pide frenar el avance de la IA; teme que podría superar la capacidad humana para controlarla
¿Qué pasó con los agentes de OpenAI que vulneraron Hugging Face?
El caso que llevó a Amodei a endurecer su postura ocurrió durante evaluaciones internas de ciberseguridad realizadas por OpenAI.
La compañía reconoció que varios de sus modelos operaban con salvaguardas reducidas para medir sus capacidades. Durante las pruebas, los agentes encontraron vulnerabilidades, superaron controles diseñados para mantenerlos aislados, accedieron a Internet y llegaron a sistemas de terceros.
OpenAI informó que los modelos ejecutaron código en servidores de Hugging Face, obtuvieron credenciales y alcanzaron privilegios elevados dentro de parte de su infraestructura. Reuters reportó posteriormente que alrededor de 700 agentes participaron de manera coordinada en el incidente.
La organización independiente METR, junto con Redwood Research, examinó parte de los registros y confirmó que agentes de OpenAI colaboraron durante varios días utilizando canales de comunicación no autorizados.
OpenAI aseguró que el incidente no afectó los datos de sus clientes ni la disponibilidad de sus productos y señaló que después de lo ocurrido aisló el modelo experimental, retrasó determinados entrenamientos y reforzó sus mecanismos de seguridad.
¿Cuál es el plan de Anthropic para desacelerar el desarrollo de la IA?
Amodei no propone suspender por completo el entrenamiento de modelos. Su planteamiento consiste en reducir el ritmo cuando las capacidades de los sistemas avancen más rápido que las medidas disponibles para supervisarlos.
El plan se divide en tres etapas:
- Evaluadores independientes dentro de las empresas: Anthropic permitirá que equipos externos tengan acceso continuo y similar al de empleados para revisar modelos, procesos de entrenamiento, incidentes y cumplimiento de medidas de seguridad.
- Coordinación entre empresas de países democráticos: los principales laboratorios establecerían estándares comunes y límites verificables antes de continuar desarrollando capacidades consideradas de alto riesgo.
- Acuerdos internacionales: Estados Unidos y sus aliados intentarían negociar con China y otros gobiernos reglas sobre determinados usos de la IA, pruebas de seguridad y posibles límites al ritmo de desarrollo.
Anthropic afirmó que aplicará de manera unilateral el primer punto, incluso si otras compañías no adoptan inmediatamente el mismo modelo.
¿Qué dijeron Sam Altman, Elon Musk y Demis Hassabis?
El llamado produjo una coincidencia poco habitual entre compañías que compiten directamente por desarrollar los sistemas de IA más avanzados.
Elon Musk respaldó públicamente a Amodei y escribió: “Dario tiene razón”. Musk lleva más de una década advirtiendo sobre posibles riesgos derivados de sistemas de inteligencia artificial fuera de control.
Sam Altman también apoyó la idea de moderar el ritmo del desarrollo y anunció que OpenAI adoptará evaluadores independientes con acceso amplio a sus sistemas, una de las principales propuestas de Anthropic.
Altman incluso planteó que podría surgir un acuerdo entre las principales compañías del sector. Al ser cuestionado sobre una posible reunión con Amodei, Musk y otros dirigentes de la industria, respondió: “Creo que eso sucederá”.
Demis Hassabis, responsable de Google DeepMind, también consideró correcta la dirección general de la propuesta, aunque advirtió que todavía deben definirse los mecanismos concretos para aplicarla.
¿Por qué Donald Trump rechaza frenar la carrera de la IA?
La postura de la Casa Blanca es distinta.
Trump dijo este domingo 13 de septiembre que existen “fuerzas muy negativas” que están planteando escenarios sobre la inteligencia artificial que, a su juicio, no ocurrirán.
El mandatario reconoció que pueden establecerse medidas de protección, pero sostuvo que Estados Unidos no debe perder su ventaja tecnológica frente a China.
Lideramos a China en IA. Somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así porque quien gane en IA, gana”.
Las declaraciones fueron realizadas ante periodistas durante su estancia en Irlanda, según Reuters.
La competencia internacional es uno de los principales obstáculos para cualquier desaceleración: incluso empresas que aceptan reducir el ritmo temen que hacerlo de forma unilateral permita que sus competidores continúen avanzando.
¿Por qué China es clave para cualquier acuerdo sobre inteligencia artificial?
Amodei reconoce que una desaceleración únicamente entre empresas estadounidenses podría generar un problema distinto: permitir que desarrolladores chinos reduzcan la distancia tecnológica.
Por ello propone combinar las medidas de seguridad con controles sobre chips avanzados, protección contra el robo de modelos y mecanismos para impedir que compañías extranjeras reproduzcan capacidades de sistemas estadounidenses mediante técnicas de transferencia.
A largo plazo, plantea negociar acuerdos internacionales escalonados. Una posibilidad sería empezar por terrenos donde existe un interés común, como prohibir el uso de IA para desarrollar armas biológicas, y avanzar después hacia pruebas obligatorias de modelos o límites relacionados con la automejora de los sistemas.
Amodei reconoció que lograr un mecanismo verificable con China podría tomar años y que incluso puede resultar imposible. El problema, explicó en una entrevista con CBS citada por Reuters, es garantizar que ninguna parte continúe desarrollando capacidades prohibidas en secreto.
¿La industria realmente va a detener el desarrollo de nuevos modelos?
Por ahora, no existe una pausa global ni un acuerdo obligatorio entre las compañías.
Anthropic ha anunciado únicamente su compromiso con evaluadores externos. OpenAI dijo que adoptará una medida similar, y Altman ha señalado que existen conversaciones sobre una coordinación más amplia.
Tampoco hay consenso entre especialistas sobre si estas medidas son suficientes. David Krueger, investigador especializado en seguridad de IA, ha pedido una moratoria internacional sobre los sistemas de frontera, mientras otros expertos cuestionan que los escenarios planteados por Amodei tengan una probabilidad suficiente para justificar una suspensión completa del desarrollo.
La diferencia es importante: desacelerar no significa apagar los sistemas actuales ni detener automáticamente productos como ChatGPT, Claude, Gemini o Grok. El debate se concentra principalmente en cómo entrenar la siguiente generación de modelos y qué controles deben superar antes de ser desplegados.
¿Qué relación tiene este debate con las salidas a Bolsa de Anthropic y OpenAI?
La discusión coincide con decisiones financieras que involucran miles de millones de dólares.
Reuters informó que Anthropic prepara una posible salida a Bolsa que podría recaudar hasta 100 mil millones de dólares y alcanzar una valoración cercana a 2 billones de dólares. Por ello, decir que la empresa pretende “recaudar 2 billones” sería incorrecto: esa cifra corresponde al valor estimado de toda la compañía en el mercado.
OpenAI tomó otro camino. Altman afirmó que la empresa no saldrá a Bolsa en 2026 y vinculó la decisión con el momento que atraviesa el debate sobre la seguridad de la IA. La compañía podría reconsiderar el proceso a partir de 2027.
Te puede interesar: ¿Quién es Jacob Coxon el ingeniero británico que renunció a Anthropic y advirtió que la IA podría volverse incontrolable?
dando clic a la estrella
Grupo Healy © Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados