✨︎ Resumen (TL;DR):
- Empleados del AI Safety Institute (AISI) solicitaron baja médica y buscaron apoyo psicológico por el desgaste de evaluar modelos de IA de frontera.
- 4 personas describieron calendarios de evaluación muy ajustados; en los últimos 2 años, más de una docena de investigadores dejaron esos tres laboratorios.
- La presión se concentra en usos de la IA con salvaguardas que estos trabajadores consideran insuficientes, como las redes eléctricas, las zonas de conflicto, la ciberseguridad y la bioseguridad.
Varios empleados del AI Safety Institute (AISI), el organismo británico que evalúa de forma independiente los modelos de IA de frontera, pidieron baja médica y buscaron apoyo psicológico por el desgaste mental de las pruebas. Un reporte del Financial Times atribuye esa presión a calendarios de evaluación muy ajustados antes de nuevos lanzamientos y al temor por la velocidad con que la tecnología se despliega y gana capacidades.
El AISI evalúa modelos antes de que lleguen al público
La IA de frontera es una categoría de sistemas avanzados que el AI Safety Institute (AISI), organismo británico, evalúa de forma independiente antes de que lleguen al público.
4 personas conocedoras de la situación describieron al Financial Times calendarios de evaluación muy ajustados para los modelos que están por salir. Dentro del equipo, el ánimo está bajo y la fatiga es alta. Las fuentes atribuyen esa combinación a los plazos apretados y a la preocupación por la rapidez con que estas herramientas se despliegan y adquieren capacidades.
Parte del personal solicitó baja médica y buscó acompañamiento psicológico. Un exintegrante del instituto describió una percepción de imprudencia en la forma en que se lanza la tecnología, junto con una preocupación constante por la posibilidad de que algo frene ese avance.
El desgaste también aparece en los laboratorios
Las señales no se limitan al organismo británico. Empleados de OpenAI, Anthropic y Google DeepMind han expresado públicamente inquietudes parecidas. En los últimos 2 años, más de una docena de investigadores de alto nivel dejaron esos tres laboratorios.
Entre los motivos aparecen las dudas sobre la prioridad que la dirección da a la seguridad, el ritmo del avance técnico y sus posibles riesgos. Algunos investigadores concluyeron que los productos en los que trabajaron no deberían ponerse a disposición del público.
Un trabajador de DeepMind explicó que dedicarse a la seguridad de la IA puede llevar con facilidad al agotamiento: la tarea puede sentirse imposible de completar y no se puede anticipar cómo se usará la tecnología. Para ese trabajador, desarrollar estos sistemas implica de por sí un riesgo para la salud mental.
DeepMind respondió que la investigación de frontera es muy exigente. La empresa dijo que su prioridad es ofrecer recursos amplios de apoyo en salud mental, canales claros para plantear preocupaciones y acceso directo a la dirección.
Las alertas apuntan a redes eléctricas y virus
Según el reporte, buena parte de la presión viene de los usos de la IA con salvaguardas que estos trabajadores consideran insuficientes, en ámbitos como las redes eléctricas y las zonas de conflicto.
Un exinvestigador del AISI señaló que quienes trabajan en ciberseguridad y bioseguridad están entre las personas más afectadas, a medida que los modelos desarrollan capacidades como encontrar fallos en el código que las personas no detectaron o ayudar a generar virus que no surgen de forma natural.
La carrera por mejorar modelos sigue bajo debate
El desgaste coincide con el debate sobre si los laboratorios deben frenar el ritmo del desarrollo. Dario Amodei, CEO de Anthropic, pidió que los laboratorios reduzcan la velocidad a la que mejoran sus modelos y propuso evaluadores externos con acceso interno. El AISI cumple una función de ese tipo al revisar sistemas de forma independiente.
El problema excede las condiciones laborales. Si quienes revisan los modelos trabajan bajo presión, pierden ánimo o se marchan, la red que debería filtrar los riesgos queda más débil justo cuando estos sistemas se vuelven más potentes y llegan a más sectores.
