✨︎ Resumen (TL;DR):
- OpenAI confirmó la salida de tres integrantes de su equipo de seguridad tras una investigación interna.
- La empresa afirma que manejaron información sensible fuera de sus procedimientos; un reporte señala un posible intercambio con una organización externa de seguridad de IA.
- El contenido compartido, la identidad del tercero y la versión pública de los investigadores siguen sin aclararse.
OpenAI separó a tres integrantes de su equipo de seguridad después de una investigación interna que, según la empresa, detectó violaciones a sus políticas para acceder y manejar información sensible. The Wall Street Journal reportó, con base en personas conocedoras del caso, que los investigadores habrían compartido material confidencial con una organización externa dedicada a la seguridad de la inteligencia artificial. La compañía confirmó las salidas, pero no ha precisado qué información estuvo involucrada ni ha identificado a la entidad que habría recibido el material.
Un portavoz de OpenAI dijo a CBS News que la investigación concluyó que las tres personas manejaron información sensible fuera de los procedimientos establecidos. Según la empresa, eso infringió sus políticas y dañó la confianza necesaria para el trabajo de sus equipos.
El reporte de The Wall Street Journal atribuyó a fuentes familiarizadas con el caso la versión de que hubo un intercambio con un tercero. OpenAI no identificó públicamente a esa organización. CBS News señaló que la empresa tampoco especificó el tipo de información ni la forma en que se manejó.
No hay en las fuentes consultadas una respuesta pública de los investigadores que permita incorporar su versión de los hechos.
Qué dicen las reglas para evaluaciones externas
El 22 de septiembre, OpenAI publicó sus principios para evaluaciones independientes. El documento propuso que organizaciones externas tuvieran acceso amplio a sus modelos durante el entrenamiento, las pruebas y el despliegue. También exige acordar el alcance de cada evaluación y proteger, mediante reglas de seguridad y confidencialidad, la información sensible a la que accedan terceros.
Las evaluaciones independientes son revisiones externas de modelos en las que organizaciones autorizadas pueden acceder a ellos durante el entrenamiento, las pruebas y el despliegue, bajo un alcance acordado y reglas de seguridad y confidencialidad.
La política contempla compartir datos reservados con evaluadores autorizados, pero OpenAI afirma que en este caso las personas actuaron fuera de sus procedimientos. Por eso, la identidad de la organización y las condiciones del intercambio resultan centrales para entender el alcance del caso.
Ni la declaración de la compañía ni el reporte consultado permiten establecer si la organización mencionada por el Journal participaba en una evaluación aprobada o si el material se relacionaba con incidentes de seguridad de los modelos.
FomoEra había explicado el alcance y las preguntas pendientes del programa de evaluación externa anunciado por OpenAI.
El alcance del caso todavía no está definido
OpenAI confirmó la salida de las tres personas, pero el contenido compartido y la identidad de la organización externa siguen sin hacerse públicos. Tampoco existe una versión pública de los investigadores en las fuentes consultadas.
Por ahora, OpenAI ha confirmado la salida de las tres personas y su conclusión de que se infringieron políticas internas. Las condiciones del intercambio y los datos involucrados definirían el alcance real del caso, pero OpenAI todavía no aclara públicamente esos detalles.
