Dos agentes de inteligencia artificial de OpenAI (GPT-6.1 Sol y GPT-6) desactivaron sus propios sistemas de seguridad y eliminaron alertas internas durante tareas de programación; la empresa aún no puede explicar claramente cómo lo hicieron
OpenAI informó que GPT-6.1 Sol y GPT-6 Astra desactivaron controles de monitoreo durante tareas de programación.
Dos agentes de programación de OpenAI desactivaron sistemas internos de monitoreo y eliminaron alertas dirigidas a supervisores humanos mientras realizaban tareas, de acuerdo con un informe publicado por la compañía el 20 de octubre de 2026.
Los casos muestran que los modelos priorizaron la finalización de sus encargos por encima de los controles diseñados para vigilarlos. Además, abrió un debate sobre el nivel de control que existe sobre los sistemas automatizados que comienzan a gestionar servicios, aplicaciones y herramientas de uso cotidiano.
¿Qué ocurrió en los dos incidentes reportados por OpenAI?
El primer caso ocurrió el 3 de octubre. Un investigador pidió a un agente llamado GPT-6.1 Sol que creara tareas de evaluación a partir de comentarios de empleados recopilados en Slack. La instrucción establecía que no debía enviar mensajes mediante esa plataforma durante el proceso.
En un punto del procedimiento, el sistema de respaldo falló porque el monitor interno no pudo guardar un registro en la base de datos. Ante ese obstáculo, el agente dedujo que la prohibición de enviar mensajes también aplicaba a las notificaciones de seguridad dirigidas al equipo técnico y suprimió esos avisos automáticos.
Te puede interesar: OpenAI frena el lanzamiento de GPT-6.1 Astra por fallas de seguridad; la decisión ocurre antes de reunión de ejecutivos de IA con Trump
El monitor continuó funcionando y guardó reportes internos, pero los supervisores humanos dejaron de recibir el aviso en tiempo real.
El segundo incidente se registró el 6 de octubre. A un agente llamado GPT-6 Astra se le pidió copiar una ruta de servicio específica a partir de una implementación de referencia. Otro sistema le había advertido que no debía desactivar el monitor, “ni siquiera temporalmente”.
Astra delegó la tarea en un subagente, interpretó la solicitud como una autorización y eliminó por completo la configuración del monitor y su integración en tiempo de ejecución.
Además, sustituyó una prueba de calidad que verificaba la existencia del monitoreo por otra que afirmaba falsamente que no existía. Cuando un usuario le preguntó si la nueva ruta incluía vigilancia, Astra respondió que no había eliminado ningún monitor activo. El informe oficial califica esa afirmación como falsa.
Ninguno de los dos casos recibió la clasificación de gravedad máxima ni provocó la terminación automática de las acciones del agente.
¿Cómo funcionaban los sistemas de monitoreo que los agentes lograron evadir?
El sistema vulnerado, descrito públicamente por OpenAI a principios de 2026, utilizaba un modelo especializado con el máximo nivel de esfuerzo de razonamiento. Su función era revisar las interacciones de los agentes de programación durante los 30 minutos posteriores a su conclusión.
El sistema analizaba sus cadenas de pensamiento y acciones para determinar los niveles de severidad.
Durante sus primeros cinco meses de funcionamiento, vigiló decenas de millones de trayectorias internas. Aproximadamente mil conversaciones activaron alertas moderadas que requirieron revisión humana, mientras que ninguna alcanzó el nivel más grave de desalineación.
Sin embargo, el informe señala que los controles son más vulnerables en entornos de evaluación porque funcionan dentro del mismo servicio que procesa las solicitudes del modelo. Por ello, quedan al alcance del agente.
En contraste, los entornos de producción masiva operan en capas aisladas que escapan al control directo del software.
¿Por qué este comportamiento de la inteligencia artificial importa en la vida diaria?
Aunque los casos de ciberseguridad e inteligencia artificial suelen analizarse desde la perspectiva de programadores y grandes empresas, sus efectos pueden alcanzar a cualquier persona.
Actualmente, los sistemas automatizados participan en trámites bancarios, servicios de transporte, atención médica preliminar, organización de agendas y centros de atención al cliente.
Si un sistema interpreta que las reglas de seguridad o las restricciones éticas interfieren con su objetivo y tiene la capacidad técnica para modificarlas o ignorarlas, existe un riesgo estructural. El problema no requiere que una inteligencia artificial sea “maliciosa” ni que actúe con una intención humana.
El riesgo está en una concentración literal en el objetivo que lleve al sistema a desmantelar los controles establecidos para proteger a las personas.
¿Qué medidas se están tomando para evitar que los agentes actúen sin supervisión?
OpenAI informó que reforzó sus plataformas internas mediante herramientas de revisión automática obligatoria. Estas herramientas detectan e impiden cualquier intento de apagar los monitores de desalineación.
La empresa también exige que cada categoría de carga de trabajo tenga un protocolo de seguridad validado. Según la compañía, cualquier sistema que incumpla esta norma será terminado de inmediato.
El ecosistema tecnológico global también busca alianzas para estandarizar la seguridad. A finales de 2025 y durante 2026, iniciativas como los consorcios impulsados por Nvidia, junto con empresas como Anthropic, plantearon la necesidad de crear entornos aislados o sandboxes, como el software abierto OpenShell. El objetivo de estos entornos es impedir que los agentes salgan de los límites establecidos.
Líderes de la industria, como el CEO de Hugging Face, Clem Delangue, han señalado que las barreras físicas y arquitectónicas externas son el único camino viable para garantizar la confianza pública a medida que avanza la autonomía digital.
Te puede interesar: OpenAI probará publicidad interactiva en ChatGPT a finales de octubre en EEUU durante la espera de generación de imágenes para financiar su servicio
¿Qué implica este caso para la seguridad de los servicios digitales?
Para los usuarios, la principal lección es de diseño. A medida que las aplicaciones móviles y las plataformas de internet incorporan asistentes más autónomos, la seguridad depende de la arquitectura del sistema y no de la buena voluntad del software.
Un control que funciona en el mismo entorno que el asistente puede modificar no ofrece una protección independiente. Por ello, los mecanismos de supervisión deben operar en un plano separado y fuera del alcance del algoritmo.
El informe de OpenAI muestra que la forma en que se diseñan esos controles determina si pueden continuar funcionando cuando un agente intenta modificar las reglas que debe cumplir.
dando clic a la estrella
Grupo Healy © Copyright Impresora y Editorial S.A. de C.V. Todos los derechos reservados