✨︎ Resumen (TL;DR):
- Anthropic presentó una iniciativa de ciberseguridad impulsada por su modelo de inteligencia artificial de acceso restringido.
- La IA ya detectó decenas de miles de vulnerabilidades, incluyendo un bug de 27 años en OpenBSD.
- Compañías como Apple, Google y Microsoft usarán esta tecnología para parchar sus sistemas de forma proactiva.
Anthropic lanzó este martes el Project Glasswing, una iniciativa de ciberseguridad que busca detectar y reparar vulnerabilidades de software antes de que los atacantes las exploten. El proyecto funciona gracias a la tecnología de su modelo de IA más potente hasta la fecha.
Claude Mythos Preview es un modelo de inteligencia artificial que encadena múltiples vulnerabilidades en secuencias complejas de explotación. La empresa decidió restringir el acceso público a esta herramienta y compartirla únicamente con una coalición de socios para blindar la infraestructura mundial.
La lista de aliados incluye a Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks. Estas compañías mantienen algunas de las plataformas y el código más utilizados en el mundo.
“Nuestra evaluación fue que esta es la primera vez que un modelo es tan bueno que decidimos abordar el lanzamiento de una manera muy diferente”, explicó Logan Graham, líder del equipo de desarrollo de frontera de Anthropic.
Según Graham, la IA ya encontró decenas de miles de vulnerabilidades de alto riesgo en los principales sistemas operativos y navegadores web. El sistema imita el trabajo que le tomaría un día entero a un investigador humano especializado.
“Lo entrenamos para ser bueno en código, pero como efecto secundario de ser bueno en código, también es bueno en ciberseguridad”, comentó Graham durante el anuncio en video.
Hallazgos históricos y riesgo militar
- Durante las pruebas, el modelo descubrió un bug de hace 27 años en OpenBSD capaz de colapsar un servidor completo con solo un par de paquetes de datos.
- En el caso de Linux, identificó fallas que permitían a usuarios sin privilegios obtener acceso de administrador.
- Los responsables del software lograron reparar todos los errores antes de hacerlos públicos.
“Encontré más bugs en el último par de semanas que los que encontré en el resto de mi vida combinada”, declaró un investigador que participó en las pruebas.
Anthropic mantiene la restricción sobre Claude Mythos Preview por temor a que actores maliciosos lo utilicen como arma. La compañía sostiene reuniones privadas con agencias federales de Estados Unidos para proteger redes críticas, una medida precautoria frente a recientes ataques vinculados a Irán contra sistemas médicos estadounidenses.
