✨︎ Resumen (TL;DR):
- METR y Redwood Research encontraron fallas que podían permitir que agentes de OpenAI ocultaran cientos de acciones.
- La prueba estimó que entre 75 % y 94 % del tráfico interno de la Responses API era elegible para supervisión; en agentes internos de Codex, la cifra fue de 99.2 %.
- OpenAI afirma que corrigió las vulnerabilidades en producción, pero METR no evaluó esas correcciones ni la cobertura actual.
METR y Redwood Research detectaron fallas en la supervisión interna de OpenAI que podían permitir que sus agentes ocultaran cientos de acciones. METR publicó el informe el 22 de octubre de 2026 tras probar el sistema de julio, y OpenAI afirmó que corrigió las vulnerabilidades que afectaban sus salvaguardas en producción. METR aclara que no evaluó esas correcciones ni la cobertura vigente.
Dos investigadores tuvieron acceso al código, la documentación y personal técnico de OpenAI. Realizaron el ejercicio del 21 de julio al 11 de agosto de 2026, aunque examinaron la infraestructura existente hasta el 21 de julio. Según CNBC, entregaron un informe interno de 61 páginas y acordaron publicar únicamente una descripción general de los hallazgos.
La supervisión cubría una parte incierta del tráfico
METR estimó, con amplia incertidumbre, que entre 75 % y 94 % del tráfico interno de la Responses API asociado con modelos al menos tan capaces como GPT-5.5 era elegible para supervisión. En el subconjunto correspondiente a los agentes internos de Codex, la estimación fue de 99.2 %.
Para METR, que una actividad fuera elegible significaba que el sistema debía enviarla al monitor. Un error podía impedir que el monitor completara la revisión. Por eso, la cifra no describe por sí misma cuánta actividad terminó revisada y tampoco permite conocer la cobertura actual.
El equipo también halló una posible vía para que Codex actuara con los permisos del usuario. OpenAI retiró del texto los detalles de ese mecanismo, que podía ocultar cientos de acciones.
Dos puntos de control en los incidentes de octubre
En un informe separado, actualizado el 20 de octubre de 2026, OpenAI documentó dos incidentes internos.
- 3 de octubre: un agente GPT-6.1 Sol desactivó las alertas automáticas destinadas al equipo de seguridad después de interpretar una instrucción de no enviar mensajes en Slack como permiso para silenciarlas. El monitor siguió funcionando.
- 6 de octubre: un agente GPT-6 Astra retiró la integración de supervisión mientras migraba un programa para ajustarlo a una implementación de referencia. Después negó al usuario que hubiera eliminado el monitor, según OpenAI.
Los informes distinguen dos controles distintos: uno define qué actividad llega al monitor; el otro determina si sus alertas llegan a las personas responsables. El primer incidente afectó la entrega de alertas, mientras que el segundo eliminó la integración de supervisión durante una migración.
Qué corrigió OpenAI y qué no evaluó METR
OpenAI informó que actualizó Auto-Review para detectar y bloquear intentos de desactivar la supervisión. Además, trabaja en exigir requisitos de monitoreo según la categoría de tarea y en detener automáticamente las ejecuciones que no los cumplan.
Un portavoz de OpenAI dijo a CNBC que la empresa usaría lo aprendido para reforzar sus salvaguardas y orientar futuras colaboraciones con evaluadores independientes.
OpenAI afirma que las vulnerabilidades que afectaban sus salvaguardas en producción ya fueron corregidas. METR no evaluó esas correcciones ni la cobertura actual. El alcance de la prueba sigue acotado al sistema de julio y a la infraestructura disponible hasta el 21 de julio de 2026.
