✨︎ Resumen (TL;DR):
- Autoridades de Canadá, Irlanda y el BCE apoyan la decisión de mantener en privado el modelo de ciberseguridad Claude Mythos.
- Más del 99 por ciento de las miles de vulnerabilidades detectadas por esta IA permanecen sin parchear.
- Anthropic limitó el acceso a 40 empresas mediante el Proyecto Glasswing para proteger infraestructura crítica.
Claude Mythos es un modelo de IA enfocado en ciberseguridad que puede descubrir y explotar vulnerabilidades de software de manera autónoma. Debido a su capacidad, que supera a la de expertos humanos, Anthropic decidió no lanzarlo al público general. Esta semana, funcionarios gubernamentales de Canadá, Irlanda y el Banco Central Europeo (BCE) respaldaron la medida para evitar un impacto masivo en sistemas globales.
El ministro de Inteligencia Artificial de Canadá, Evan Solomon, se reunió el martes con representantes de Anthropic. Su oficina describió el encuentro como parte de un “compromiso continuo con las principales empresas de IA sobre seguridad, protección y los intereses soberanos de Canadá”.
Solomon elogió la postura de la empresa, afirmando que “trabajar primero con los defensores, en lugar de lanzar este nuevo modelo de manera amplia” es el “camino responsable” que “da una ventaja a las personas que protegen los sistemas críticos”.
El ministro aseguró además que “el Gobierno de Canadá se toma con la mayor seriedad la protección de sus sistemas, su infraestructura crítica y los datos de los canadienses”.
Previamente, ejecutivos bancarios y reguladores canadienses discutieron los riesgos de esta IA en operaciones financieras, como el fraude sofisticado y las brechas de auditoría en los sistemas de transacciones. En Estados Unidos, la Casa Blanca también organizó reuniones similares con bancos y líderes tecnológicos para preparar defensas.
El riesgo de una IA autónoma
El 7 de abril, Anthropic anunció Mythos y lo restringió a un consorcio de más de 40 empresas, entre ellas Apple, Amazon, Microsoft y CrowdStrike. El acceso ocurre mediante su iniciativa Project Glasswing, diseñada para que los defensores utilicen el modelo para encontrar y solucionar fallos en software crítico.
Según datos de Anthropic, más del 99 por ciento de las miles de vulnerabilidades que Mythos identificó siguen sin parchear. Muchas de ellas pasaron desapercibidas durante décadas.
En Dublín, Richard Browne, director del Centro Nacional de Ciberseguridad de Irlanda (NCSC), compareció ante el Comité de IA del Oireachtas. Explicó que la documentación técnica de Mythos “parece representar un cambio significativo en la forma en que se identifican y parchean las vulnerabilidades de hardware y software”.
Browne enfatizó que “la frontera técnica salta hacia adelante cada semana” y que la gestión de riesgos cibernéticos “se está volviendo mucho más dinámica de lo que nos gustaría”.
Aunque el NCSC señala que “no hay indicios de que una capacidad autónoma de descubrimiento de vulnerabilidades comparable esté disponible para los actores de amenazas en este momento”, la legisladora Sinéad Gibney fue tajante durante la audiencia al calificar a Mythos como “un riesgo para este Estado”.
Por su parte, la presidenta del Banco Central Europeo, Christine Lagarde, apoyó el lanzamiento controlado durante una entrevista con Bloomberg Television en Washington. Lagarde calificó el control general de la IA como un “gran problema” y exigió mayores salvaguardas para la tecnología.
Al final, la advertencia de Browne a los legisladores irlandeses resume la tensión que enfrenta el sector tecnológico y de ciberseguridad a nivel global: “El problema no es que Anthropic haya creado esto. El problema es que Anthropic ha demostrado que esto es posible”.
Fuentes: 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31
