✨︎ Resumen (TL;DR):
- Brad Smith pidió leyes de seguridad con frenos de emergencia, reportes de incidentes y supervisión pública.
- El acuerdo de la Casa Blanca del 29 de septiembre de 2026 contempla cuatro niveles de supervisión, pero sigue siendo voluntario.
- La auditoría externa revisa los controles; Smith plantea evaluar cuándo una autoridad pública debe aprobar un modelo antes de su lanzamiento.
Brad Smith, presidente de Microsoft, pidió leyes de seguridad para la inteligencia artificial con frenos de emergencia, reportes de incidentes y supervisión pública para los modelos más avanzados. Smith centró la propuesta en agentes capaces de controlar dispositivos autónomos o infraestructura crítica. La planteó ante Will Bain en el podcast Big Boss Interview de la BBC y sostuvo que la autorregulación “ya no es suficiente”.
Smith pidió que esos frenos existan tanto en las empresas que ejecutan los modelos como en la nube. También propuso notificar a las víctimas de intrusiones y evaluar en qué casos un modelo debe obtener aprobación gubernamental antes de su lanzamiento.
Un freno de emergencia para IA es un control que permite a una persona autorizada pausar o detener un agente durante una tarea.
El 10 de octubre de 2026, Satya Nadella, CEO de Microsoft, abordó el problema desde el diseño técnico. Según un despacho de Bloomberg reproducido por NDTV, propuso tratar los modelos avanzados como posibles amenazas internas y diseñar su contención desde el inicio.
Ese criterio busca mantener los sistemas bajo control humano: una persona autorizada tendría que poder pausarlos o detenerlos durante una tarea. Nadella también pidió registros protegidos contra la manipulación de las acciones de los agentes, auditorías independientes y divulgación de fallos graves para que otras empresas puedan reforzar sus defensas.
El pacto de la Casa Blanca ya incluye auditorías externas
El acuerdo de la Casa Blanca del 29 de septiembre de 2026 establece cuatro niveles de supervisión. The American Presidency Project de la Universidad de California en Santa Bárbara conserva el texto.
Las empresas se comprometen a:
- implantar controles internos;
- encargar su vigilancia a un equipo propio;
- trabajar con un auditor o evaluador externo independiente;
- crear un comité independiente del consejo de administración que supervise el proceso.
Entre los firmantes aparecen los responsables de Google, Anthropic, Meta, OpenAI, xAI y Nvidia. El documento contempla que esos pasos puedan convertirse en leyes o reglamentos con el tiempo.
Por ahora, su fórmula es un compromiso de las compañías, con reuniones periódicas para acordar estándares y mejores prácticas. El acuerdo ya incluye evaluadores externos, pero todavía no impone una obligación legal general.
Auditar no equivale a aprobar un modelo
El auditor externo del pacto comprueba si los controles de una empresa funcionan como estaba previsto. En cambio, la aprobación gubernamental que plantea Smith daría a una autoridad pública el visto bueno previo al lanzamiento de ciertos modelos.
Tom Wheeler, investigador visitante de Brookings, cuestionó ese reparto de responsabilidades en un análisis publicado el 6 de octubre de 2026. Señaló que el pacto permite a las compañías diseñar sus controles y elegir a sus evaluadores.
Wheeler también observó que el acuerdo no obliga a publicar los resultados de las auditorías ni a entregarlos a una autoridad responsable del interés público. Para él, una supervisión efectiva requiere divulgar esos resultados ante una autoridad pública y darle capacidad para exigir medidas correctivas.
Su crítica distingue una auditoría organizada por el desarrollador de un mecanismo de rendición de cuentas con intervención estatal, aunque ambos puedan examinar la seguridad de un sistema.
Washington pide reportes inmediatos
Las exigencias también llegaron desde Washington. Bloomberg informó que la Super Intelligence Force, el grupo de IA de la administración Trump, advirtió el 9 de octubre de 2026 que los desarrolladores deben comunicar inmediatamente los incidentes y corregir los daños.
El grupo describió posibles consecuencias por incumplimiento, pero no precisó cuáles. El punto pendiente es si estos controles seguirán dependiendo de compromisos voluntarios o si las autoridades tendrán facultades para revisar los resultados, exigir correcciones y decidir cuándo un modelo puede lanzarse.
