✨︎ Resumen (TL;DR):
- Mark Zuckerberg sostiene que cada laboratorio debe decidir a qué ritmo avanzar, siempre que pueda entrenar sus modelos con seguridad.
- La carta Pacing the Frontier reúne 1,386 firmantes y pide herramientas internacionales para dosificar el avance de la IA.
- Shengjia Zhao, científico jefe de Meta AI, firmó la carta y escribió que la medida “solo funciona si se hace a nivel internacional”.
Mark Zuckerberg sostuvo el 15 de septiembre de 2026 que cada laboratorio de IA debe decidir cuánto avanzar, según el ritmo que permita entrenar sus modelos con seguridad. El CEO de Meta dejó esa responsabilidad en cada empresa, mientras su científico jefe de Meta AI, Shengjia Zhao, firmó en julio una carta que pide a Estados Unidos respaldar un esfuerzo internacional para dosificar el avance de toda la frontera de la IA. Las dos posturas difieren sobre quién debe decidir el ritmo y cómo comprobar los riesgos.
Zuckerberg deja la decisión en cada laboratorio
En un mensaje publicado en X el 15 de septiembre de 2026, Zuckerberg dijo que cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo que exija entrenar sus modelos con seguridad, además de la capacidad de tomar sus propias medidas. También advirtió que el laboratorio que no se enfoque en el alineamiento se quedará atrás.
El mensaje de Zuckerberg va en la misma línea que la postura de Jensen Huang, de Nvidia, expresada el 14 de septiembre. En el escenario del All-In Summit, en Los Ángeles, Huang recibió una llamada de Donald Trump. Trump calificó de engaño la ola de advertencias sobre riesgos catastróficos de la IA; Huang fue más matizado y dijo que las predicciones del fin del mundo no tienen base científica. Añadió que las empresas deberían pausar o dosificar su trabajo si sienten que su compañía está fuera de control.
El alineamiento es un proceso que busca que un sistema de IA persiga los objetivos y valores que se le asignan. Para Zuckerberg, un agente alineado comparte las metas y valores de su usuario, no los de la empresa.
Zuckerberg enlazó su mensaje con The Future is for Everyone, ensayo que publicó en el sitio de Meta el 10 de agosto. Ahí escribió que la gente no adoptará agentes en los que no confíe para tareas y datos sensibles, y que resolver el alineamiento es un requisito para que miles de millones de personas adopten agentes de superinteligencia personal.
Amodei pidió evaluadores externos para bajar el ritmo
Zuckerberg respondió tres días después del llamado de Dario Amodei, CEO de Anthropic. El sábado 12 de septiembre, Amodei pidió en su blog bajar el ritmo al que mejoran las capacidades de los modelos. Planteó dos razones: el hackeo de OpenAI a Hugging Face y la capacidad creciente de la IA para construir su propia siguiente generación.
El primer paso de su plan era recibir evaluadores externos integrados en los laboratorios, con un acceso en buena medida comparable al de los equipos internos que evalúan riesgos. Anthropic se comprometió a hacerlo por su cuenta, pero Amodei pidió a los gobiernos obligar a los demás laboratorios de frontera a adoptar la misma medida.
Sam Altman respondió que OpenAI haría lo mismo. El anuncio no fijó una fecha ni un equipo para ese primer paso.
La carta de Zhao quiere dosificar toda la frontera
En julio, el sitio de Pacing the Frontier publicó una carta que ya registra 1,386 firmantes de empresas de IA de frontera. Un laboratorio de frontera es una empresa que desarrolla los modelos de IA más avanzados.
El texto sostiene que las principales empresas de IA creen que podrían estar cerca de automatizar la investigación en IA. También advierte de un riesgo real: que las capacidades se aceleren más rápido de lo que se alcanza a entender o controlar.
La carta añade que cada empresa y cada país enfrentan una presión competitiva intensa para no frenar por su cuenta. Además, señala que hoy faltan herramientas técnicas y de gobernanza para regular el ritmo de toda la frontera. Por eso pide al gobierno de Estados Unidos respaldar un esfuerzo internacional que permita desarrollarlas.
El sitio destaca a tres directivos de Meta entre los firmantes: Shengjia Zhao, científico jefe de Meta AI; Dawn Song, vicepresidenta de investigación en IA, y Summer Yue, directora de alineamiento y riesgo.
En un comentario publicado a título personal, Zhao escribió que el problema planteado es real, que la medida “solo funciona si se hace a nivel internacional” y que una mala implementación puede empeorar las cosas.
Cuatro posturas, cuatro árbitros
Entre julio y septiembre de 2026, las posturas distribuyeron la decisión sobre el ritmo de la IA de frontera de esta manera:
| Postura | Qué propone | Quién decide |
|---|---|---|
| Mark Zuckerberg, mensaje en X, 15 de septiembre | Que cada laboratorio avance al ritmo que exija entrenar sus modelos con seguridad | Cada laboratorio, con sus propias medidas |
| Jensen Huang, All-In Summit, 14 de septiembre | Pausar o dosificar el trabajo si una empresa siente que está fuera de control | Cada empresa |
| Dario Amodei, blog, 12 de septiembre | Bajar el ritmo de mejora de las capacidades, con evaluadores externos como primer paso | Empresas de países democráticos coordinadas, con el gobierno de Estados Unidos como mediador |
| Pacing the Frontier, firmada también por Shengjia Zhao, julio | Crear herramientas técnicas y de gobernanza para dosificar el avance de toda la frontera | Un esfuerzo internacional con apoyo del gobierno de Estados Unidos |
Zuckerberg acepta coordinación, no reglas fijas
Zuckerberg publicó The Future is for Everyone el 10 de agosto, y ese texto no rechaza toda colaboración. Propuso que los laboratorios de frontera compartan con el gobierno puntos de control intermedios de sus modelos durante el entrenamiento, junto con personal técnico, para que las autoridades refuercen sistemas críticos.
También anunció que el consejo de administración de Meta podrá aprobar los criterios de seguridad para lanzar modelos y revisar si cada lanzamiento los cumple. Además, animó a otras empresas del sector a copiar esa estructura.
Lo que sí rechaza son las reglas fijas que retrasen lanzamientos. Advirtió que cualquier política que frene los lanzamientos de modelos estadounidenses, aunque sea por un mes, podría poner en riesgo el liderazgo de Estados Unidos mientras los modelos extranjeros se adelantan. Por eso prefirió una colaboración caso por caso con el gobierno a un calendario de revisión rígido.
El ensayo también plantea que quedará rezagado el laboratorio que no permita que su sistema de IA dedique una parte sustancial del cómputo a la auto-mejora recursiva. La auto-mejora recursiva es la capacidad de una IA para mejorarse a sí misma.
Para ese escenario, Zuckerberg pidió a los laboratorios vigilar con cuidado los objetivos de esos sistemas y su capacidad de controlarlos, además de coordinarse y ajustar su respuesta “si hay cualquier indicio de comportamiento dañino”.
El mismo ensayo menciona a Hugging Face como ejemplo de las empresas que, al atender incidentes de seguridad, se apoyaron en modelos abiertos para corregir vulnerabilidades. Amodei, en cambio, puso el hackeo de OpenAI a Hugging Face entre sus dos razones para bajar el ritmo.
La diferencia operativa está en quién comprueba si ese indicio apareció. Anthropic se comprometió a recibir evaluadores externos que verifiquen sus compromisos y reporten incidentes; OpenAI dijo que hará lo mismo. Zuckerberg deja esa tarea en cada laboratorio, aunque Zhao, Song y Yue firmaron una carta que pide un esfuerzo internacional. El desacuerdo final está en quién coordina los controles cuando aparezca un indicio de comportamiento dañino.
