✨︎ Resumen (TL;DR):
- Kathy Hochul presentó una iniciativa estatal para probar de forma independiente sistemas avanzados de IA.
- NYCAIRR prevé reunir a más de 80 investigadores y tendrá acceso a la capacidad de cómputo de Empire AI.
- La versión modificada de RAISE eliminó la auditoría anual por terceros, pero exige informar la participación de evaluadores externos.
La gobernadora de Nueva York, Kathy Hochul, presentó el 10 de noviembre una iniciativa estatal para evaluar de forma independiente sistemas avanzados de IA y formar especialistas en seguridad de IA.
La red prevé reunir a más de 80 investigadores de universidades e instituciones de Nueva York. Tendrá su sede en el New York Center for AI Responsibility and Research (NYCAIRR), que forma parte del sistema de la Universidad Estatal de Nueva York (SUNY), y colaborará con DIGIT, la oficina que aplica la ley RAISE.
La iniciativa de noviembre toma como base un centro de la Universidad de Binghamton cuya creación Hochul presentó en enero de 2026. El centro no nació con esta red. Ahora el gobierno usa ese proyecto para ampliar, a escala estatal, la investigación y la evaluación de sistemas avanzados.
NYCAIRR es un centro académico de SUNY que servirá como sede para investigar y evaluar sistemas avanzados de IA. Greg Morrisett, de Cornell Tech, y Jeannette Wing, de la Universidad de Columbia, serán sus codirectores interinos. Según SUNY, ambos dirigirán la agenda científica y las evaluaciones independientes, además de organizar la red de investigadores.
Los investigadores seguirán trabajando desde sus propias instituciones. El plan busca desarrollar métodos para medir la seguridad de los modelos, estudiar cómo funcionan y comprobar si se comportan como se espera. La agenda también incluye investigación básica y la formación de una nueva generación de especialistas en seguridad de IA.
Qué investigará la red de Nueva York
Una de las primeras tareas será buscar especialistas en varios campos. Los métodos formales son técnicas que permiten verificar propiedades de los sistemas. La convocatoria también abarcará:
- Sistemas de IA que actúan con cierto grado de autonomía.
- Seguridad de hardware.
- Privacidad, interpretabilidad y bioseguridad.
Para realizar ese trabajo, los investigadores contarán con la capacidad de cómputo de Empire AI, una iniciativa público-privada del estado.
El financiamiento anunciado en enero incluía una donación filantrópica de 30 millones de dólares de un grupo encabezado por Tom Secunda, cofundador de Bloomberg, así como una inversión inicial de 25 millones de dólares de SUNY. Esas cifras corresponden al anuncio original del centro y no representan una nueva aportación anunciada en noviembre.
La evaluación y la ley RAISE no son lo mismo
NYCAIRR podrá aportar evaluaciones y evidencia cuando el estado se lo solicite. Además, trabajará con la Oficina de Innovación Digital, Gobernanza, Integridad y Confianza, conocida como DIGIT, para revisar los marcos de seguridad que publiquen los desarrolladores y recomendar cómo reforzar los requisitos.
DIGIT es la oficina encargada de aplicar la ley estatal RAISE. La versión modificada de la norma entrará en vigor el 1 de enero de 2027 y obligará a los grandes desarrolladores de modelos de frontera a publicar un marco que describa cómo gestionan determinados riesgos. SUNY informó que DIGIT abrió un portal para que esos desarrolladores se registren a más tardar en esa fecha.
RAISE también contempla informes de transparencia e incidentes de seguridad para los desarrolladores incluidos en su alcance. La norma no se refiere a cualquier aplicación que use IA: define los modelos de frontera mediante un umbral de capacidad de cómputo utilizado para entrenarlos y establece obligaciones adicionales para los desarrolladores de mayor tamaño.
El análisis del despacho Cooley señaló que la modificación firmada en marzo eliminó la obligación de una auditoría anual por terceros que aparecía en la versión anterior. El texto modificado exige que los informes de los grandes desarrolladores indiquen en qué medida participaron evaluadores externos. Esa obligación no equivale a contratar una auditoría anual.
Lo que todavía no está definido
A nivel federal, CAISSI, un centro del Instituto Nacional de Estándares y Tecnología de Estados Unidos, también trabaja en evaluaciones de IA. La iniciativa de Nueva York pertenece al ámbito estatal y universitario.
El anuncio de SUNY no identifica los primeros modelos que la red someterá a prueba. Tampoco detalla el calendario ni las condiciones de acceso a sistemas comerciales.
Empire Fellows Program, socio filantrópico del centro, señala en un sitio dedicado al proyecto que el plan contempla publicar resultados, código y datos. Esa descripción no precisa qué se divulgará de cada evaluación ni cuándo.
El anuncio deja definidos la sede, los responsables y el vínculo con DIGIT, pero todavía no los modelos, el calendario ni las condiciones de acceso de las primeras pruebas.
