✨︎ Resumen (TL;DR):
- Chris Hughes propone una Oficina de Supervisión de la IA con funcionarios dentro de los laboratorios de IA de frontera.
- El plan añade pruebas de estrés y una rotación de supervisores de alto rango cada 3 años.
- La evaluación externa dejaría de depender solo de los laboratorios y pasaría a una agencia pública con facultades para exigir correcciones.
Chris Hughes, cofundador de Facebook, propuso el 23 de septiembre de 2026 que Estados Unidos coloque supervisores del gobierno dentro de los laboratorios de IA de frontera. Su modelo, inspirado en la banca, busca revisar cómo esas empresas gestionan el riesgo y comprobar que el personal pueda anular o apagar un modelo que tome control de sistemas eléctricos, de pagos o de transporte.
El planteamiento apareció como una columna de opinión en el Financial Times, y Hughes también la publicó completa en su boletín Marketcraft. La propuesta toma como referencia el trabajo que realizan los reguladores bancarios desde hace décadas.
En Estados Unidos, la Reserva Federal, la FDIC y la Oficina del Contralor de la Moneda (OCC) mantienen equipos dentro de los bancos comerciales. Sus integrantes se reúnen con empleados y directivos, revisan documentación interna y siguen la operación diaria.
La supervisión integrada es un modelo regulatorio que coloca funcionarios especializados dentro de una empresa para revisar su documentación, seguir su operación y exigir correcciones. En el sistema bancario, estos equipos evalúan si la dirección gestiona bien el riesgo, no únicamente si completó el papeleo.
Hughes trasladaría ese mecanismo a la IA. Cada laboratorio de frontera trabajaría con supervisores que entiendan su tecnología y participen desde el diseño y la revisión de los modelos. Su misión sería vigilar que las personas y los agentes de IA que construyen esos sistemas eviten comportamientos indebidos.
Pruebas de estrés contra escenarios que nadie conoce
Una prueba de estrés es una evaluación que somete a una organización a un escenario severo para medir si puede responder y conservar el control.
Los bancos más grandes deben demostrar cada año cómo resistirían una recesión severa. La Reserva Federal actualiza esos escenarios y los mantuvo confidenciales hasta hace poco para evitar que las instituciones entrenaran específicamente para el examen.
En la versión de Hughes, cada laboratorio tendría que demostrar que su personal todavía puede anular o apagar un modelo que hubiera tomado control de sistemas eléctricos, de pagos o de transporte. Las empresas enfrentarían escenarios que no conocerían de antemano.
El plazo de 3 años es para rotar supervisores
El plazo de 3 años no describe la duración de la Oficina de Supervisión de la IA. Hughes lo propone para los supervisores de mayor rango, quienes rotarían entre empresas para reducir el riesgo de captura regulatoria.
La OCC limita a 5 años la permanencia del examinador a cargo de un mismo banco. Hughes plantea un periodo menor porque considera que la IA avanza con mayor rapidez.
El propio autor reconoce los límites del modelo bancario. Algunos supervisores detectaron peligros y no actuaron; otros jefes redujeron la vigilancia a listas de verificación rígidas; y algunos supervisores terminaron capturados por la industria que debían vigilar.
Por eso Hughes pide personal que entienda la tecnología y no tenga miedo de utilizar sus facultades.
“Un modelo de supervisión bancaria para regular la IA crea una vía para que funcionarios públicos y expertos privados evalúen juntos esas compensaciones, y a la vez garantiza que las empresas que se benefician de una decisión no sean sus únicos jueces”, escribe Hughes.
Amodei propuso evaluadores, Hughes quiere autoridad
Hughes abrió su columna con el ensayo We Must Pace the Frontier, que Dario Amodei, director ejecutivo de Anthropic, publicó el 12 de septiembre de 2026, 11 días antes.
Amodei se comprometió a recibir un equipo de evaluadores externos de organizaciones como METR. Esas personas tendrían escritorios en las oficinas de Anthropic, credenciales, laptops de la empresa y permisos comparables a los de los equipos internos de riesgo. El director ejecutivo también citó a los supervisores bancarios como precedente y pidió a los gobiernos exigir el mismo paso al resto de los laboratorios.
La diferencia está en quién tendría la última palabra:
- En el esquema de Amodei, los evaluadores son terceros privados a los que la empresa invita.
- En el planteamiento de Hughes, los supervisores serían funcionarios de una agencia pública con facultades para sancionar.
OpenAI también dijo en X que apoya evaluaciones independientes con acceso profundo al entrenamiento, la evaluación y el despliegue de sus modelos. Ese respaldo sigue siendo un compromiso de la empresa, no una obligación legal.
Por qué Hughes dice que el FRONTIER Act no basta
El Congreso ya discute una idea relacionada. El FRONTIER Act, presentado por los representantes Jay Obernolte, republicano de California, y Lori Trahan, demócrata de Massachusetts, obligaría a las mayores compañías de IA a someter sus modelos a auditorías independientes, publicar reportes y revelar incidentes de seguridad.
Chris Lehane, director de asuntos globales de OpenAI, respaldó las auditorías externas. Sin embargo, la empresa aclaró a CBS News que no apoya el proyecto completo.
Para Hughes, el problema está en los incentivos. Las empresas podrían contratar a sus propios evaluadores, lo que repetiría los conflictos que afectaron a las calificadoras de crédito antes de la crisis de 2008. El proyecto tampoco crearía una agencia independiente ni supervisores integrados en los laboratorios, como ocurre en la banca.
La regulación federal todavía es voluntaria
El marco federal vigente sigue un camino distinto. La orden ejecutiva que Donald Trump firmó el 2 de junio de 2026 pide a los desarrolladores, de forma voluntaria, dar al gobierno acceso a ciertos modelos de frontera hasta 30 días antes de liberarlos a otros socios.
El mismo marco descarta de manera expresa crear licencias o permisos obligatorios. La propuesta de Hughes, en cambio, necesitaría una nueva agencia pública y una ley del Congreso para convertir la supervisión interna en una exigencia legal.
La oficina aún no tiene agencia ni presupuesto
Hughes ya había participado en este debate. En 2019 publicó en The New York Times una columna en la que pidió dividir Facebook y regular su contenido.
Alex Heath leyó su nueva propuesta como una señal de que vuelven al debate quienes intentaron regular las redes sociales. El periodista hizo ese comentario en X, según recogió Techmeme. Joe Weisenthal, de Bloomberg, compartió la columna como un argumento a favor de utilizar la supervisión bancaria como modelo.
La propuesta todavía deja preguntas prácticas sin respuesta. Hughes no especifica en qué dependencia viviría la oficina, con qué presupuesto operaría ni cómo reclutaría a especialistas capaces de revisar modelos que sus propios creadores no terminan de entender.
El autor sí fija una prioridad: el Congreso no necesita una ley enorme sobre IA, sino empezar por la seguridad de los modelos. A su juicio, las redes sociales enfrentaron un problema al intentar resolverlo todo al mismo tiempo.
Por ahora, los evaluadores con acceso interno a un laboratorio de IA son los que cada empresa decide invitar. El esquema de Hughes necesitaría una ley del Congreso y una agencia nueva para que esa presencia deje de depender de la buena voluntad de la empresa vigilada.
