✨︎ Resumen (TL;DR):
- El AISI británico ya evalúa Gemini 4 Argon tras las gestiones de Kanishka Narayan con Washington y desarrolladores.
- El organismo afirma que examinó de forma independiente más de 55 modelos antes de su lanzamiento.
- La continuidad de las pruebas depende de acuerdos voluntarios y de negociaciones entre el Reino Unido, Washington y los desarrolladores.
El Reino Unido confirmó el 12 de octubre que su AI Security Institute (AISI) ya evalúa nuevos modelos avanzados de inteligencia artificial, incluido Gemini 4 Argon. El ministro de IA, Kanishka Narayan, anunció que Londres negoció con Estados Unidos y con los desarrolladores para mantener ese acceso antes de los lanzamientos.
Narayan hizo el anuncio durante un discurso en Imperial College London. Explicó que las gestiones buscaban mantener las evaluaciones antes de los lanzamientos.
El anuncio llegó un día después de que The Telegraph informara sobre una reversión de las restricciones de Washington. Según el diario, cuyas fuentes no identifica, la Casa Blanca había pedido en septiembre a Anthropic, OpenAI y otras empresas que dejaran de compartir modelos con el instituto británico.
El mismo reporte atribuyó la marcha atrás a las gestiones de Narayan y señaló que el AISI volvería a acceder a sistemas de Anthropic, OpenAI y Google DeepMind. Reuters precisó que la confirmación ministerial no enumera todos los modelos evaluados y que los ministros nunca confirmaron una pérdida general de acceso.
El acceso depende de acuerdos voluntarios
El AISI opera mediante acuerdos voluntarios con desarrolladores. En un documento publicado este lunes, el organismo afirma que ha examinado de forma independiente más de 55 modelos antes de su lanzamiento. El texto presenta esa cifra como un recuento de la trayectoria del instituto.
Reuters también recogió una carta de septiembre en la que Anthropic había señalado que ninguna organización fuera de Estados Unidos tenía acceso a Mythos 5.1.
Al ser consultado sobre la continuidad de las pruebas, Narayan expresó confianza en las conversaciones con Washington. También reconoció ante Reuters que depender de tecnología ajena requiere cautela sobre la permanencia del acceso.
La disputa también pasa por la política internacional
El desacuerdo ocurrió mientras Londres buscaba impulsar la regulación internacional de la IA. The Telegraph recordó que Donald Trump defendió ante la Asamblea General de la ONU, en septiembre, que las organizaciones internacionales no interfirieran en el desarrollo de modelos de empresas estadounidenses.
Estas posiciones ayudan a explicar por qué el acceso del AISI depende de negociaciones entre gobiernos, además de los acuerdos que mantiene con las empresas desarrolladoras.
Las pruebas también tienen riesgos internos
Las evaluaciones de seguridad son pruebas que el AISI realiza antes del lanzamiento para examinar modelos de IA.
El nuevo documento del organismo advierte que los sistemas más autónomos, especialmente en ciberseguridad, pueden causar daños durante el entrenamiento, el uso interno o las propias evaluaciones.
El organismo propone:
- Supervisar los sistemas durante todo el desarrollo.
- Detectar incidentes.
- Dar acceso suficiente a auditores independientes.
El AISI también advierte que los modelos superan rápidamente algunos exámenes de capacidad, mientras preparar evaluaciones creíbles requiere tareas más complejas. Un agente de IA es un sistema cuya conducta se evalúa para comprobar que actúe como se espera.
Las metodologías para comprobar ese comportamiento todavía están en una etapa temprana. La seguridad de estas pruebas conecta con el debate sobre el aislamiento de los agentes durante las evaluaciones.
Londres prepara la agenda del G20
La agenda técnica del AISI es voluntaria y busca que las prácticas acordadas maduren hacia estándares internacionales. En paralelo, Narayan anunció la ampliación del uso de IA para reforzar las defensas digitales del Gobierno británico.
El Gobierno británico quiere impulsar esa cooperación durante su presidencia del G20 en 2027. Narayan anunció que la IA será un tema central de esa agenda.
El Reino Unido ya evalúa modelos antes de su lanzamiento, pero la continuidad de esas pruebas sigue dependiendo de decisiones de desarrolladores y gobiernos. La tensión pendiente es concreta: Londres quiere que las prácticas voluntarias maduren hacia estándares internacionales mientras negocia el acceso necesario para mantener las evaluaciones.
