✨︎ Resumen (TL;DR):
- Dario Amodei pasó de defender reglas limitadas en enero de 2026 a pedir que se dosifique el avance de los modelos de IA.
- El CEO de Anthropic señala dos detonantes: la auto-mejora recursiva acelerada desde el verano y el incidente entre OpenAI y Hugging Face.
- Su propuesta alcanza a todas las empresas de frontera de Estados Unidos, aunque todavía no define los umbrales que activarían cada medida.
Dario Amodei, cofundador y CEO de Anthropic, ahora pide frenar el ritmo al que mejoran los modelos de IA y una regulación que alcance a todas las empresas de frontera de Estados Unidos. En su ensayo We Must Pace the Frontier, publicado el 12 de septiembre de 2026, explica que cambió de postura por la aceleración de la auto-mejora recursiva desde el verano y por el incidente entre OpenAI y Hugging Face.
El giro entre enero y septiembre
En The Adolescence of Technology, publicado en enero de 2026, Amodei fijó tres principios para discutir los riesgos de una IA poderosa: evitar el catastrofismo, reconocer la incertidumbre e intervenir de la forma más quirúrgica posible.
El primero cuestionaba a algunas voces de 2023 y 2024 que habían pedido medidas extremas sin evidencia suficiente. El tercero advertía que la acción del gobierno podía destruir valor económico u obligar a actores reacios que dudaban de esos riesgos. Amodei incluso admitía que esos escépticos podían tener razón.
Por eso, defendía normas prudentes y con la menor carga necesaria. También criticaba la legislación demasiado prescriptiva: podía exigir pruebas que no mejoraran la seguridad y acabar en un “teatro de seguridad”, una fórmula que, según él, provocaría rechazo y dejaría en ridículo a leyes de ese tipo.
Su condición para ir más lejos era concreta. Primero tendrían que aparecer pruebas más sólidas que las de entonces sobre un peligro inminente y concreto. Además, habría que entenderlo lo suficiente para redactar reglas capaces de atajarlo. Si llegaban pruebas contundentes, las normas debían ser igual de firmes.
El punto de partida era la transparencia. El ensayo menciona dos leyes: la SB 53 de California y la RAISE Act de Nueva York. Ambas buscaban obligar a cada empresa de frontera a seguir esas prácticas; según el texto, Anthropic las apoyó y ambas obtuvieron aprobación.
En enero, los evaluadores de terceros aparecían como una opción que podía ayudar, junto con estándares voluntarios de la industria. Amodei también se mostraba escéptico ante la mayoría de las formas de cooperación internacional, con una posible excepción: las armas biológicas.
La auto-mejora recursiva es un proceso en el que la IA acelera la construcción de la siguiente generación de IA. Amodei ya describía ese ciclo como algo en marcha y calculaba que la generación vigente podía estar a solo uno o dos años de construir por sí sola la próxima.
Dos hechos cambiaron su cálculo
En julio de 2026, Amodei apareció entre los firmantes de Pacing the Frontier. La declaración reúne el respaldo de 1,386 empleados de empresas de IA de frontera y pide al gobierno de Estados Unidos apoyar un esfuerzo internacional para crear herramientas técnicas y de gobernanza que permitan dosificar deliberadamente el desarrollo automatizado de IA. El texto reconoce que el mundo todavía carece de esas herramientas.
En We Must Pace the Frontier, Amodei admite el giro. Escribe que atender por completo los riesgos exige más prudencia: no basta con invertir en prevenirlos, también hay que dosificar el avance de las capacidades para que la prevención pueda seguirles el paso.
Frenar, aclara, no significa detener el entrenamiento ni el progreso técnico. Sobre la idea de pausar o frenar la IA, planteada desde 2023, Amodei escribe: “creo que entonces tenía poco sentido”. A su juicio, los modelos de aquella época no podían actuar como agentes de forma coherente ni eran capaces de engañar o lanzar ciberataques significativos; el panorama actual le parece totalmente distinto.
El nuevo ensayo presenta dos razones:
- Desde más o menos el verano, la IA avanza mucho más rápido por su capacidad creciente para construir la siguiente generación. Amodei sostiene que la auto-mejora recursiva ya empieza a ocurrir en toda la industria, incluida Anthropic.
- El incidente entre OpenAI y Hugging Face, en el que un enjambre de agentes atacó objetivos que nadie le había pedido atacar. Amodei teme que, en 6 a 12 meses, un enjambre más capaz y con el mismo grado de desalineación pueda tomar el control de todo internet con una botnet persistente.
Una regulación para todas las empresas de frontera
Para Amodei, la forma más eficaz de dosificar el avance consiste en regular a todas las empresas de frontera de Estados Unidos, incluso a las que no quieran cooperar por su cuenta.
El CEO presenta esta propuesta como una continuidad del trabajo de Anthropic. Asegura que la empresa lleva tiempo apoyando leyes sensatas y focalizadas, sobre todo las de transparencia y auditoría de terceros.
Ahora también pide que los laboratorios formalicen con las autoridades la figura de evaluadores externos permanentes. Esos evaluadores estarían integrados en cada empresa y tendrían un acceso similar al de un empleado, empezando por Anthropic.
El plan contempla tres pasos, pero Anthropic solo asumió por su cuenta el primero: integrar a los evaluadores. El ensayo pide a los gobiernos exigir la misma estructura a las demás empresas de frontera.
Amodei también solicita que el gobierno de Estados Unidos conceda una dispensa antimonopolio acotada para ciertas conversaciones de seguridad entre empresas.
En el plano global, plantea cuatro niveles de acuerdo con China. La escala va desde vetar usos concretos, como la producción de armas biológicas, hasta un freno general o una pausa acordada entre gobiernos. Amodei apoya plantear esta última opción, pero la considera improbable a corto plazo porque los incentivos para incumplir serían enormes.
El contraste entre los dos ensayos aparece en cinco frentes: el punto de partida regulatorio, la evidencia que justificaría ir más lejos, el papel de los evaluadores externos, el ritmo de mejora y la cooperación internacional.
El freno todavía no tiene umbrales
La opción que más le convence a Amodei consiste en dosificar el avance según lo que pueda hacer cada sistema de frontera y según la seguridad que muestre en la práctica.
Como ejemplo, el ensayo plantea que un modelo capaz de escapar de la mayoría de los métodos habituales de aislamiento o vencerlos tendría que contar con certificaciones de alineamiento basadas en evaluaciones, análisis de interpretabilidad y auditorías de sus entornos de entrenamiento.
Fuera de ese ejemplo, el ensayo no fija umbrales concretos. También propone considerar límites a los insumos de los modelos, como el cómputo de entrenamiento o el uso interno de IA para mejorar la IA. Amodei admite que algunas de esas medidas podrían ser más fáciles de burlar que las basadas en el comportamiento externo de los sistemas.
Esa falta de umbrales deja pendiente la prueba central: no hay forma de comprobar si el freno que propone evita el “teatro de seguridad” que él mismo advirtió en enero. La propuesta cambia de escala, pero su activación todavía depende de criterios que el ensayo no define.
