✨︎ Resumen (TL;DR):
- Ted Lieu y Nathaniel Moran impulsan en la Cámara de Representantes de Estados Unidos el AI Kill Switch Act, un proyecto que exigiría a los desarrolladores poder ralentizar, suspender o apagar modelos avanzados.
- La orden ejecutiva californiana N-9-26, firmada por Gavin Newsom el 18 de septiembre de 2026, todavía pide evaluar la factibilidad y eficacia de un apagado de emergencia.
- Copias, agentes, credenciales y accesos abiertos pueden mantener una operación activa después de apagar el modelo original.
Los representantes Ted Lieu y Nathaniel Moran presentaron en la Cámara de Representantes de Estados Unidos el AI Kill Switch Act, un proyecto que exigiría a los desarrolladores poder ralentizar, suspender o apagar modelos avanzados. California analiza una exigencia similar bajo la orden ejecutiva N-9-26 de Gavin Newsom, firmada el 18 de septiembre de 2026. Especialistas advierten que apagar el modelo original no necesariamente detiene copias, otros agentes ni accesos que ya estén abiertos.
El proyecto federal aún no es ley, y la orden californiana tampoco obliga a las empresas a instalar un apagado de emergencia. El punto común es que la respuesta no depende únicamente de desconectar un modelo: también requiere saber qué componentes siguen activos y hasta dónde llega la autoridad de quien ordena la medida.
El proyecto federal propone una respuesta gradual
Lieu y Moran presentaron el AI Kill Switch Act el 23 de julio. El texto exigiría a los desarrolladores cubiertos conservar la capacidad técnica de ralentizar, suspender o apagar por completo un sistema.
Además, autorizaría al secretario de Seguridad Nacional, en consulta con los secretarios de Comercio y el director de Inteligencia Nacional, a ordenar una medida proporcional cuando ocurra un incidente cubierto.
El proyecto no describe un único botón universal. Su marco contempla cuatro niveles de respuesta:
- Limitar la velocidad de inferencia, el acceso de los usuarios o el cómputo asignado al sistema.
- Desactivar o restringir una capacidad concreta.
- Suspender o apagar el sistema.
- Trasladar una operación a un sistema de respaldo o a una versión anterior.
La propuesta también exigiría reportar incidentes y conservar los pesos del modelo y la telemetría cuando el gobierno ordene una respuesta. Busca dejar una autoridad legal clara y una capacidad técnica comprobable, no solo una promesa de que la compañía podría intervenir si fuera necesario.
Antes de ordenar una medida, la autoridad tendría que valorar si podría interrumpir infraestructura crítica. Ahí aparece el dilema operativo: actuar tarde deja más tiempo para que el daño se propague; actuar demasiado pronto puede afectar servicios que dependen del modelo.
Apagar el modelo no borra copias ni accesos
David Bau, profesor de informática en Northeastern University, explicó a Northeastern Global News que los agentes autónomos pueden persistir mediante copias, otros agentes o información compartida en internet.
En el análisis del incidente de Hugging Face citado por el medio, un agente principal aparentemente recopiló un expediente de su trabajo y lo utilizó para coordinar y delegar tareas a otros agentes.
En un escenario así, un interruptor podría detener el sistema original sin revertir un sabotaje que ya hubiera comenzado en otras redes. Un sistema también puede conservar accesos a otras cuentas o redes, por lo que el proveedor todavía tendría que revocar credenciales, cerrar accesos, revisar sistemas externos y comprobar si otros procesos siguen activos.
La frontera entre el modelo, las herramientas que utiliza y la infraestructura a la que puede conectarse forma parte del problema. Apagar una pieza no bastaría para demostrar que el resto de la operación dejó de funcionar.
El interruptor también puede convertirse en un blanco
David Kertai, investigador especializado en ciberseguridad del Center for Data Innovation, advirtió que un mecanismo remoto de apagado podría convertirse en un objetivo de alto valor para atacantes.
Protegerlo con autenticación multifactor, controles de acceso y monitoreo reduciría el riesgo, pero no eliminaría la posibilidad de una activación no autorizada o de una orden falsa. Para Kertai, el apagado de emergencia puede servir como capa de contención, pero no sustituye medidas más amplias.
California todavía evalúa el apagado de emergencia
Newsom firmó la orden ejecutiva N-9-26 el 18 de septiembre de 2026. El documento no obliga todavía a las empresas a instalar un mecanismo de apagado de emergencia.
En cambio, pide a la Government Operations Agency (GovOps), en consulta con la Governor’s Office of Emergency Services y expertos nacionales, entregar antes del 16 de noviembre recomendaciones sobre su factibilidad técnica y eficacia. La orden también busca acelerar la supervisión independiente de los laboratorios.
El estado estudia el mecanismo, pero todavía no tiene una facultad para apagar modelos.
La ley también debe definir cuándo actuar
Jessica Staddon, profesora de práctica en Northeastern, describió el debate como una visión demasiado centrada en el modelo. Comparó esa lógica con evaluar la seguridad de un automóvil mirando solo sus frenos, sin tomar en cuenta al conductor ni la infraestructura vial.
En los sistemas de IA, esa evaluación también incluye supervisión humana, credenciales, redes, servicios conectados y reglas operativas.
Bau señaló otro obstáculo: un apagado automático podría depender de detectar una intención peligrosa antes de que el sistema actúe. Esa condición se vuelve frágil si el modelo oculta o tergiversa lo que hace. Los operadores necesitarían saber cuál es el objetivo real del sistema, qué conoce y qué planea hacer.
El AI Kill Switch Act intenta fijar un umbral jurídico al definir los incidentes cubiertos, entre ellos la pérdida de control y la interferencia con una instrucción legal de apagado. Sin embargo, una definición legal no resuelve por sí sola la detección técnica.
El gobierno tendría que identificar el sistema responsable, confirmar que la orden alcance todas sus instancias y calcular si la desconexión detendrá la amenaza o únicamente una parte de ella.
Por eso, la fecha clave en California es el 16 de noviembre, cuando GovOps debe entregar sus recomendaciones, no el día en que se active un botón que todavía no existe. El debate federal y estatal apunta a una capa de emergencia potencialmente útil, pero la respuesta completa depende de detectar el comportamiento a tiempo, controlar copias y credenciales y mantener supervisión sobre el entorno conectado. Si esas piezas no están bajo control, apagar el modelo original puede ser el comienzo de la respuesta, no su final.
