✨︎ Resumen (TL;DR):
- Anthropic, OpenAI y Google mantienen desde julio de 2026 reuniones de trabajo para explorar un organismo común de estándares.
- La propuesta busca probar y auditar la seguridad de los modelos de frontera, pero aún no tiene entidad formal, reglas ni autoridad anunciada.
- Las compañías coinciden en la evaluación externa, aunque difieren sobre el papel del gobierno y la facultad de retrasar lanzamientos.
Anthropic, OpenAI y Google mantienen desde julio de 2026 conversaciones en grupos de trabajo para explorar un organismo común que establezca métodos de prueba y auditoría para la seguridad de los modelos de frontera. The Information y Asiae reportaron el movimiento el 13 y 14 de septiembre, respectivamente. Todavía no existe una entidad formal ni una regulación, y las compañías no han anunciado su alcance, financiación, participantes o capacidad para imponer resultados.
Un organismo de estándares para IA es una estructura propuesta que definiría métodos comunes para probar y auditar la seguridad de los modelos de frontera. Estos son los sistemas de IA más capaces y autónomos. La idea busca que el propio sector use pruebas comparables y que la carrera comercial no se adelante a los controles.
La idea toma forma entre propuestas y reuniones
El 14 de julio, Demis Hassabis, CEO de Google DeepMind, propuso un organismo estadounidense para evaluar modelos de frontera antes de su lanzamiento. Lo comparó con FINRA, la organización de autorregulación de la industria financiera estadounidense, pero planteó que tendría supervisión federal y un consejo con expertos técnicos independientes y representantes del código abierto.
Su marco definiría qué modelos alcanzan la categoría Frontier-class mediante umbrales y benchmarks actualizados. Al principio, los laboratorios entregarían voluntariamente sus modelos hasta 30 días antes de publicarlos para someterlos a pruebas de ciberseguridad, riesgos biológicos y otros comportamientos peligrosos. Si el método demostrara ser sólido, aprobar la evaluación podría convertirse en un requisito para desplegar modelos de frontera en Estados Unidos.
Hassabis también planteó que el proceso alcanzara cualquier modelo de frontera, aunque fuera abierto o procediera de otro país. Los sistemas por debajo de ese nivel, incluidos muchos proyectos de startups y universidades, quedarían exentos.
Las reuniones reportadas añaden una dimensión distinta: la discusión ya no se limita a la propuesta de un ejecutivo y ahora involucra a tres de los principales desarrolladores de modelos de frontera. Aun así, el proyecto no tiene el alcance ni las reglas de una autoridad operativa.
Anthropic y OpenAI coinciden en la supervisión externa
El 12 de septiembre, Dario Amodei, CEO de Anthropic, publicó un plan de tres pasos para frenar el ritmo de avance de los modelos sin detener por completo su desarrollo. El primero propone evaluadores externos integrados permanentemente en cada laboratorio, con acceso comparable al de un empleado para revisar prácticas de seguridad, informar incidentes y examinar la alineación durante el entrenamiento. Anthropic dijo que asumiría esa medida de forma unilateral.
Los otros dos pasos requieren coordinación. Amodei propuso que las compañías de países democráticos acuerden estándares comunes y límites para el progreso no supervisado. Después, los gobiernos intentarían coordinarse con países autoritarios para reducir los riesgos de una carrera sin controles.
En su ensayo, Amodei describió como factible crear un organismo global que pruebe modelos antes de su lanzamiento. También advirtió que darle facultades reales y comprobar que no existan modelos secretos sería mucho más difícil.
OpenAI respaldó públicamente una parte de ese enfoque en un documento publicado el 9 de septiembre. La empresa dijo que trabajará con otros laboratorios de frontera para avanzar en estándares del sector y que el esfuerzo puede comenzar como una iniciativa voluntaria, incluso sin apoyo gubernamental. Aclaró que cualquier estándar creado por las compañías debe complementar, no sustituir, las salvaguardas federales obligatorias y la supervisión democrática.
La autoridad sigue sin definirse
Las posiciones convergen en la necesidad de pruebas externas, pero no en el modelo final. Google DeepMind puso sobre la mesa una estructura público-privada con supervisión federal; Anthropic habló de evaluadores permanentes y coordinación internacional; OpenAI respaldó estándares voluntarios mientras defiende reglas federales obligatorias para los sistemas de mayor riesgo.
Todavía no se sabe si las tres empresas comparten la misma definición de modelo de frontera ni si aceptarían un evaluador con autoridad para retrasar un lanzamiento. En OpenAI, la posición pública actual habla de una iniciativa voluntaria. En Anthropic, la coordinación más ambiciosa requeriría apoyo del gobierno estadounidense por sus posibles implicaciones antimonopolio.
La independencia depende del financiamiento
El marco de Hassabis propone que la mayor parte del financiamiento de la industria provenga de las compañías, porque las pruebas a gran escala requieren talento técnico y capacidad de cómputo. Ese esquema permitiría crear el organismo con rapidez, pero también deja abierta la pregunta de cuánto margen tendría para evaluar a las empresas que lo financian.
El diseño intenta responder con expertos independientes, representantes del código abierto y pruebas reservadas que el propio organismo desarrollaría sin participación de los laboratorios. Todas esas condiciones siguen siendo propuestas, no reglas acordadas.
Tampoco está claro si Anthropic, OpenAI y Google aceptarían los mismos umbrales ni a un evaluador con facultades para retrasar un lanzamiento. El planteamiento de OpenAI mantiene el carácter voluntario de la iniciativa, mientras que la coordinación más ambiciosa de Anthropic requeriría respaldo del gobierno estadounidense por sus posibles implicaciones antimonopolio.
La competencia con China limita cualquier pausa
Amodei sostiene que las democracias no pueden reducir el ritmo de desarrollo más allá de la ventaja que conservan sobre los proyectos asociados con China. Una pausa unilateral, argumenta, podría alterar el equilibrio estratégico.
Por eso, su propuesta combina evaluaciones técnicas con controles de seguridad, cooperación internacional y protección de la cadena de suministro. Aunque los laboratorios acepten probar sus modelos, todavía harían falta mecanismos para verificar que todos los participantes cumplen, incluidos quienes no quieran cooperar y los sistemas desarrollados fuera de Estados Unidos.
Sin esa verificación, el estándar podría servir como referencia técnica, pero no como filtro efectivo para toda la industria. La competencia geopolítica limita así el alcance de cualquier organismo privado que dependa de la cooperación voluntaria.
Por ahora, la novedad es que las propuestas públicas de Anthropic, OpenAI y Google empiezan a conectarse con conversaciones de trabajo entre sus equipos. Hasta que aparezcan un estatuto, una lista de participantes, un método de financiación y reglas sobre quién puede bloquear un modelo, el organismo sigue siendo una iniciativa en discusión, no una autoridad que ya supervise la IA.
