✨︎ Resumen (TL;DR):
- OpenAI pidió el 21 de septiembre de 2026 que Estados Unidos lidere estándares técnicos internacionales para la IA de frontera y la RSI.
- La empresa afirma que la RSI totalmente autónoma no ocurre hoy y no debe perseguirse sin conservar el control humano.
- La propuesta plantea mediciones, supervisión y reportes comunes, pero cada gobierno decidiría si los convierte en obligaciones legales.
OpenAI pidió el 21 de septiembre de 2026 que Estados Unidos lidere la creación de estándares técnicos internacionales para la IA de frontera, incluida la mejora recursiva de la inteligencia artificial (RSI). La empresa busca una base común para medir capacidades, supervisar la investigación automatizada y reportar incidentes, mientras advierte que la RSI totalmente autónoma no ocurre hoy y no debe perseguirse hasta demostrar que el control humano puede mantenerse.
La mejora recursiva de la inteligencia artificial (RSI) es un escenario que describe cómo los sistemas realizan cada vez más trabajo para desarrollar generaciones sucesivas de modelos. La investigación automatizada es un espectro en el que los sistemas asumen distintas cantidades de trabajo para construir esas generaciones.
Cuando la delegación aumenta, el proceso podría acercarse a la RSI, porque cada sistema asumiría una parte creciente del trabajo necesario para construir el siguiente modelo.
OpenAI vincula esa automatización con la seguridad. Un investigador automatizado podría ayudar a mejorar la alineación, entendida como la capacidad de mantener los sistemas bajo control humano y orientados a valores humanos, además de desarrollar defensas contra agentes peligrosos. La compañía presenta esto como una posibilidad asociada a la automatización, no como una garantía ni como una capacidad plenamente autónoma ya disponible.
En su publicación, OpenAI lo expresó de forma directa: “La RSI totalmente autónoma no está ocurriendo hoy y no deberíamos perseguirla a menos que pueda hacerse de forma segura”.
La empresa añade que cualquier decisión para avanzar debería depender de conservar el control humano y de decisiones democráticas informadas sobre los beneficios y riesgos. Sin salvaguardas, las personas podrían perder la supervisión de procesos de investigación que ya no comprendan.
Qué estándares propone OpenAI
OpenAI propone coordinar estándares nacionales e internacionales mediante institutos de seguridad de IA, organismos técnicos y entidades de la industria. El plan concentra el trabajo en dos frentes: medir los modelos de frontera con referencias de capacidad y gestionar los beneficios y riesgos de la investigación automatizada, incluida la RSI.
El objetivo sería crear una base técnica común para medir capacidades, evaluar modelos, valorar riesgos y decidir si las salvaguardas son suficientes. La coordinación también abarcaría modelos abiertos y cerrados, con participación de desarrolladores, expertos técnicos independientes y universidades.
En materia de supervisión, la propuesta identifica tres tareas concretas:
- Evaluar el avance relacionado con la RSI y la cantidad de investigación autónoma que realiza cada compañía.
- Definir qué procesos automatizados deben activar una revisión humana inmediata.
- Clasificar, registrar, reportar y atender incidentes de alineación e investigación automatizada con niveles de gravedad y umbrales comunes.
OpenAI también pide canales seguros para que los gobiernos y los operadores de infraestructura crítica compartan vulnerabilidades, amenazas emergentes y preocupaciones de seguridad nacional.
Estados Unidos lideraría, pero los gobiernos decidirían
OpenAI sostiene que Estados Unidos está en una posición privilegiada para encabezar el esfuerzo: su industria se encuentra en la frontera técnica y el país mantiene una red internacional relevante en finanzas, comercio, defensa, tecnología y sistemas de información. Sin coordinación, cada nación podría terminar usando definiciones de incidentes, evaluaciones y requisitos de reporte incompatibles.
El documento no propone una licencia mundial para cada modelo ni una revisión obligatoria antes de cada lanzamiento. OpenAI afirma que los estándares técnicos no serían licencias, revisiones previas obligatorias ni requisitos de aprobación. Cada gobierno decidiría si los incorpora a su propio marco legal y cómo hacerlo.
La compañía también pide reglas transparentes que no favorezcan a una empresa, un país o un modelo de negocio. La intención es evitar que los requisitos eleven artificialmente las barreras para nuevos participantes o para desarrolladores de modelos con pesos abiertos, aunque la propuesta no detalla cómo resolvería esa tensión en la práctica.
La propuesta llega mientras Washington y Pekín discuten alertas
El anuncio ocurre durante una semana de reuniones internacionales en la que la inteligencia artificial ocupa un lugar central. Reuters informó que Sam Altman tiene previsto hablar sobre IA y seguridad internacional ante el Consejo de Seguridad de la ONU. La administración de Donald Trump, por su parte, ha rechazado frenar el desarrollo por temor a que una pausa beneficie a China.
Axios reportó que el secretario del Tesoro de Estados Unidos, Scott Bessent, y el viceprimer ministro chino, He Lifeng, discutieron un posible diálogo para notificar al otro país cuando un incidente de IA alcance niveles de riesgo para la seguridad nacional.
Estas conversaciones llevan la propuesta más allá de una discusión técnica: plantean quién define las mediciones, quién recibe los reportes y qué países participan cuando un sistema puede afectar infraestructura o seguridad fuera de sus fronteras.
La pregunta pendiente es quién hará cumplir los estándares
OpenAI reconoce que el concepto todavía evolucionará y que el desarrollo de IA ocurre en varios países y laboratorios. Su propuesta intenta reducir la fragmentación y hacer comparables los incidentes, pero deja en manos de los gobiernos la decisión que determinará su fuerza real: mantener los estándares como referencias técnicas o convertirlos en obligaciones legales nacionales coordinadas entre sí.
Por ahora, la empresa fija un límite explícito. OpenAI defiende la investigación automatizada como una vía para acelerar la alineación y desarrollar defensas, pero sostiene que la RSI completamente autónoma no debe perseguirse mientras no sea posible preservar el control humano. La discusión internacional empieza con la dificultad de medir cuándo ese control deja de ser efectivo.
