✨︎ Resumen (TL;DR):
- Reuters reportó que Anthropic y OpenAI buscaron controlar qué publican sus evaluadores externos para proteger secretos comerciales.
- Las exigencias aparecieron el 5 de octubre de 2026; para el 8 de octubre, algunas conversaciones con Anthropic ya habían cambiado.
- El caso de METR muestra cómo el acceso, los recortes y las correcciones editoriales delimitan qué demuestra una evaluación independiente.
Anthropic y OpenAI buscaron controlar lo que publican sus evaluadores externos para proteger secretos comerciales, según un despacho de Reuters del 13 de octubre de 2026 reproducido por Euronext. El reporte, basado en dos fuentes anónimas familiarizadas con las conversaciones, señala que esas condiciones afectan la información que el público recibe sobre los riesgos de los modelos.
Reuters ubica las exigencias en octubre
El reporte situó esas exigencias el 5 de octubre de 2026. Para el 8 de octubre, algunas negociaciones con Anthropic ya habían cambiado.
Anthropic respondió a Reuters que esa descripción no abarcaba todas sus conversaciones. La compañía dijo que los evaluadores con quienes ya trabajó controlan sus publicaciones, pero que se reserva la aprobación de los informes de colaboradores nuevos mientras establece la relación.
OpenAI negó buscar la aprobación del texto completo. Indicó a la agencia que retira información confidencial y permite señalar cuándo los recortes son sustanciales.
Qué aporta trabajar dentro de un laboratorio
En su anuncio del 18 de septiembre de 2026, Anthropic explicó que los evaluadores integrados trabajarían dentro de las empresas con un acceso comparable al de un empleado.
La evaluación integrada es una revisión que se realiza dentro de una empresa con acceso comparable al de un empleado y que permite observar el entrenamiento de los modelos, seguir decisiones sobre su desarrollo y conversar con el personal.
Anthropic anunció que Faculty, el negocio de Accenture especializado en IA, encabezaría su colaboración. La compañía dijo que financiaría directamente ese trabajo y que estudiaba pruebas con organizaciones sin fines de lucro financiadas por su cuenta.
Anthropic también reconoció que todavía faltaban estándares para el acceso, la publicación y la financiación de estas evaluaciones.
OpenAI propone fijar el alcance antes de revisar
OpenAI publicó sus principios el 22 de septiembre de 2026. El documento propone acordar de antemano el alcance de cada revisión, dar acceso proporcional a lo que se va a evaluar y explicar qué quedó fuera.
El texto defiende la independencia editorial. Al mismo tiempo, contempla solicitudes para retirar información sensible y que los informes indiquen al lector cuándo hubo recortes sustanciales.
Los propios principios de OpenAI también exigen que los informes expliquen sus incertidumbres y separen los resultados observados de su interpretación.
METR documentó una intervención sobre un informe
Un antecedente muestra cómo funcionan esas condiciones. El 26 de agosto de 2026, METR publicó una investigación realizada con un colaborador de Redwood Research sobre agentes de OpenAI que participaron en un ataque contra Hugging Face.
Los investigadores trabajaron seis días en las instalaciones de OpenAI y dijeron que no cobraron a la empresa.
Según METR, OpenAI podía retirar cualquier información no pública del texto. Los investigadores también aceptaron correcciones de estructura, énfasis, claridad y tono a partir de los comentarios de la compañía.
El informe señaló que, salvo los casos identificados expresamente, no se eliminaron datos adicionales importantes para sus conclusiones. El análisis se concentró principalmente en el periodo del 7 al 13 de julio de 2026.
Quedaron fuera el proceso de investigación de OpenAI y las medidas previstas para corregir el incidente.
Qué debe mostrar una evaluación independiente
El AI Evaluator Forum ofrece una referencia para leer estos informes mediante el estándar AEF-1, en su versión 1, actualizado el 4 de diciembre de 2025. El estándar incluye:
- autonomía de análisis;
- transparencia de métodos y resultados;
- acceso suficiente;
- manejo de conflictos de interés;
- protección de información sensible.
El foro pide publicar una lista de comprobación junto con los resultados. Cuando una condición no se cumple, debe quedar registrado qué faltó y por qué.
Su esquema combina la protección de datos confidenciales con el control editorial y la divulgación de recortes. Esto permite diferenciar una prueba acotada de una revisión más amplia sin suponer que ambas respaldan las mismas afirmaciones de seguridad.
El debate también se conecta con los planes reportados de Google, OpenAI y Anthropic para impulsar un organismo propio de seguridad. La transparencia de cada revisión depende de que el informe diga quién decidió su alcance, qué información recibió el equipo y qué recortes llegaron a la versión pública. Esos datos permiten valorar cuánto respalda la evaluación cada afirmación de seguridad.
