✨︎ Resumen (TL;DR):
- Demis Hassabis, CEO de Google DeepMind, pide a Estados Unidos crear un organismo privado con supervisión pública para evaluar la inteligencia artificial más avanzada.
- Los laboratorios entregarían sus modelos de manera voluntaria hasta 30 días antes de su lanzamiento, un requisito que después sería obligatorio para operar en el país.
- El plan busca evitar la parálisis por decisiones políticas improvisadas y asegurar que los sistemas pasen pruebas estrictas de ciberseguridad, riesgos biológicos y comportamiento autónomo.
Demis Hassabis, director ejecutivo de Google DeepMind, propuso este martes 14 de julio que Estados Unidos establezca un organismo independiente encargado de evaluar los modelos de inteligencia artificial más potentes antes de su lanzamiento comercial. En su manifiesto “A Framework for Frontier AI and the Dawning of a New Age”, el científico plantea un esquema inspirado en FINRA (el supervisor privado de Wall Street) para evitar riesgos extremos ante la inminente llegada de la inteligencia artificial general.
El Nobel de Química de 2024 sostiene que el desarrollo técnico corre a gran velocidad. En sus palabras, la inteligencia artificial general está “probablemente a solo unos pocos años” de distancia y la humanidad ya se encuentra “en las estribaciones de la singularidad”. Para Hassabis, esta ventana de tiempo exige reglas claras que protejan a la sociedad sin asfixiar la innovación.
FINRA es una organización de autorregulación estadounidense que supervisa a las firmas de corretaje de Wall Street bajo la autoridad del gobierno federal. Hassabis quiere trasladar este modelo a la tecnología, creando un cuerpo técnico financiado principalmente por la propia industria y supervisado por el gobierno de Estados Unidos.
Este organismo contaría con un consejo integrado por expertos técnicos independientes y representantes de la comunidad de código abierto. La financiación privada permitiría costear el costoso talento de primer nivel y la enorme capacidad de cómputo que requieren estas evaluaciones.
El camino hacia las pruebas obligatorias
El plan contempla una transición por etapas. En un principio, los grandes laboratorios entregarían sus modelos de forma voluntaria hasta 30 días antes de su lanzamiento para someterlos a una fase piloto de pruebas.
Una vez que el protocolo demuestre su efectividad, el proceso se volvería obligatorio para cualquier empresa que desee operar en territorio estadounidense. Los sistemas que superen los límites de capacidad técnica definidos por el organismo recibirán la etiqueta de Frontier-class.
Un modelo Frontier-class es una categoría de inteligencia artificial que supera ciertos umbrales de capacidad técnica y de seguridad establecidos por el nuevo regulador. Estos sistemas se someterán a evaluaciones trimestrales exhaustivas que analizarán:
- Capacidades de ciberseguridad: el potencial de la herramienta para identificar y explotar fallos en infraestructuras críticas.
- Riesgos biológicos: la posibilidad de que el modelo facilite la creación de amenazas de alto impacto, analizado bajo rigor científico.
- Comportamiento agente y engaño: la detección de patrones donde el software intente evadir las restricciones de seguridad impuestas.
- Transparencia en el razonamiento: la generación de marcas de agua digitales para imágenes y salidas legibles para humanos.
Evitar la captura regulatoria de las Big Tech
Para calmar las dudas sobre un posible conflicto de interés (debido a que los gigantes tecnológicos financiarían el organismo), Hassabis propone eximir a las startups y a los laboratorios de investigación académica del proceso de evaluación. Las reglas estrictas solo aplicarán para quienes crucen el umbral de frontera tecnológica.
La propuesta ya genera apoyo en sectores clave. El investigador Gary Marcus celebró la iniciativa y recordó que defiende un sistema similar desde 2023. “El mundo será un lugar mejor si se implementa, con transparencia e independencia. Espero que su valiente ensayo sea un punto de quiebre”, afirmó Marcus. Sin embargo, condicionó su respaldo a que las decisiones no queden únicamente en manos de las grandes corporaciones y el gobierno.
El llamado de Hassabis coincide con semanas de alta tensión en Washington. Recientemente, el gobierno estadounidense impuso límites de exportación a Anthropic que obligaron a bloquear de inmediato sus modelos Mythos y Fable, una acción que dejó a la industria sin un protocolo claro de actuación. Poco después, OpenAI limitó de forma preventiva el lanzamiento de GPT-5.6.
Los líderes de la industria ya coinciden en la necesidad de supervisión estatal, aunque difieren en las formas. Mientras Sam Altman de OpenAI prefiere un modelo similar al de FINRA, Dario Amodei de Anthropic aboga por una agencia con capacidad de veto directo, similar a la Administración Federal de Aviación estadounidense.
Hassabis concluye su manifiesto con un llamado al equilibrio regulatorio. “Nadie en el mundo sabe con certeza qué va a pasar de aquí en adelante, y ni siquiera los expertos se ponen de acuerdo. Cuando hay tanta incertidumbre y lo que está en juego es tan grande, avanzar con optimismo cauteloso es la estrategia sensata y correcta”, puntualizó.
