OpenAI firma acuerdos con cuatro evaluadores de IA

OpenAI firma acuerdos con cuatro evaluadores de IA

OpenAI firma acuerdos con cuatro equipos para revisar modelos de IA, salvaguardas y monitoreo interno.

Por Humberto Toledo el 16 de noviembre del 2026 a las 9:36 pm PST

✨︎ Resumen (TL;DR):

  • OpenAI anunció el 13 de noviembre de 2026 una primera fase de evaluaciones integradas con Apollo Research, METR, Transluce y Goodfire.
  • Los cuatro equipos tendrán acceso distinto a versiones intermedias de modelos, código, datos de entrenamiento y registros de supervisión, según cada revisión.
  • Los evaluadores conservarán independencia para publicar, pero OpenAI podrá retirar información confidencial y pedir demoras por riesgos de seguridad.

OpenAI anunció el 13 de noviembre de 2026 acuerdos con Apollo Research, METR, Transluce y Goodfire para realizar una primera fase de evaluaciones integradas de sus modelos de inteligencia artificial y sus salvaguardas. Los equipos examinarán recursos internos con alcances distintos, mientras la compañía conservará el derecho de retirar información confidencial de los informes públicos.

Una evaluación integrada es un proceso de revisión externa que permite examinar, durante un periodo prolongado, sistemas y materiales que normalmente no están disponibles al público. Puede incluir versiones intermedias de modelos, código, datos de entrenamiento y registros de supervisión. OpenAI señaló que el acceso concreto dependerá de lo que necesite cada equipo.

Nvidia compromete 250 mdd en cómputo para seguridad de IA
Te podría interesar:
Nvidia compromete 250 mdd en cómputo para seguridad de IA

Qué revisará cada equipo

Apollo Research evaluará si los modelos podrían actuar en secreto contra las intenciones de sus desarrolladores y si las salvaguardas detectarían ese comportamiento. También examinará si el entrenamiento pudo incentivarlo, si aparece en las pruebas o en el uso interno y si sería posible detectar el razonamiento asociado. Su trabajo tendrá dos etapas.

METR se concentrará primero en la mayor ejecución de aprendizaje por refuerzo realizada hasta ahora por OpenAI. El aprendizaje por refuerzo es una etapa de entrenamiento en la que el sistema recibe señales que favorecen ciertas respuestas o acciones.

Dentro del alcance y los recursos acordados, METR podrá fijar prioridades y buscar comportamientos que las pruebas y los monitores existentes pudieran haber pasado por alto. Esta primera revisión no abarcará todos los modelos internos.

OpenAI reconoce que esa revisión será más limitada que la propuesta publicada por METR en octubre, que planteaba revisar incidentes de una gama más amplia de modelos durante el entrenamiento, las evaluaciones y el uso interno. La empresa también prevé otra evaluación de monitoreo con METR, pero todavía falta acordar su alcance.

Transluce examinará la calidad y la cobertura de las pruebas que OpenAI realiza para evaluar la alineación después del entrenamiento. OpenAI y Transluce también expresaron la intención de hacer una revisión posterior de unas 8 semanas a principios de 2027.

Esa etapa tendría acceso más amplio y datos sobre cómo influyen los resultados de las pruebas en las decisiones de lanzamiento.

Goodfire aportará investigadores especializados en interpretabilidad. La interpretabilidad es un campo que busca entender el funcionamiento interno de los modelos.

Sus análisis se enfocarán en supervisar y depurar el entrenamiento y estudiar la alineación. OpenAI indica que los principales destinatarios serán sus propios investigadores, aunque Goodfire también publicará aprendizajes y hallazgos conforme avance la colaboración.

Acceso interno con condiciones de publicación

Cada colaboración comenzará con un alcance y unas condiciones de acceso acordados. Si el acceso directo pudiera exponer información especialmente sensible, como los pesos o la arquitectura de un modelo, OpenAI considerará alternativas. Una de ellas será que los evaluadores realicen los análisis junto con investigadores de la compañía.

Quienes necesiten información confidencial trabajarán en las oficinas de OpenAI con dispositivos proporcionados por la empresa. Las conversaciones con empleados podrán orientar las revisiones, pero serán extraoficiales y no podrán publicarse ni atribuirse a esas personas.

Los evaluadores sí podrán solicitar declaraciones verificadas por OpenAI. Podrán publicar esas declaraciones o informar que la compañía se negó a confirmarlas.

OpenAI afirma que los evaluadores conservarán independencia para publicar. Al mismo tiempo, se reserva el derecho de eliminar información confidencial y podrá solicitar demoras para corregir problemas que impliquen riesgos de seguridad. El anuncio no precisa cuánto durarían esos posibles retrasos.

El Comité de Seguridad de la junta de OpenAI Foundation recibirá los informes sin recortes y podrá conversar en privado con los evaluadores. El protocolo establece que los desacuerdos pasarán primero por el grupo asesor de seguridad y los directivos de OpenAI. Si no se resuelven, llegarán a ese comité.

El esquema de financiación también cambia entre equipos. Apollo Research y Goodfire aceptan una compensación que no depende de los resultados. METR y Transluce no aceptan pagos por estas evaluaciones, aunque pueden recibir créditos de API o recursos de cómputo. OpenAI no detalló los montos.

El antecedente de la revisión de METR

Entre el 21 de julio y el 11 de agosto de 2026, investigadores de METR y Redwood Research examinaron el sistema interno de monitoreo de OpenAI. Encontraron, entre otras fallas, una vía que podría haber permitido ocultar cientos de acciones recientes de un agente.

En una actualización del 29 de octubre, METR informó que OpenAI le había comunicado que corrigió la mayoría de las vulnerabilidades y que una reparación seguía en curso. Los evaluadores aclararon que no habían comprobado esas afirmaciones ni los cambios posteriores en la cobertura.

En aquella prueba, los investigadores publicaron solo una parte del informe privado y no tenían derecho unilateral a describir los recortes de OpenAI. Ese acuerdo anterior no determina lo que ocurrirá con los nuevos informes.

El antecedente sí muestra por qué interpretar las conclusiones exigirá conocer los límites de acceso y divulgación. Por ahora, METR todavía debe acordar el alcance de su evaluación de monitoreo adicional y OpenAI no ha precisado cuánto podrían durar las demoras solicitadas por riesgos de seguridad. Esos límites serán necesarios para interpretar cualquier informe que llegue al público.

Fuentes: 1, 2, 3, 4

Más de AI

Feed