✨︎ Resumen (TL;DR):
- Dario Amodei, CEO de Anthropic, desmintió que su compañía promueva un veto absoluto a los modelos de inteligencia artificial de pesos abiertos.
- El directivo propuso un control estricto sobre el contrabando de chips avanzados hacia China y la regulación de la destilación industrial de software.
- Exige pruebas de seguridad obligatorias para cualquier modelo de frontera capaz de generar riesgos biológicos o cibernéticos, sin importar si es abierto o cerrado.
El CEO de Anthropic, Dario Amodei, aclaró que la startup de inteligencia artificial no respalda una prohibición generalizada contra los modelos de pesos abiertos. La declaración busca calmar las tensiones en Washington tras el lanzamiento del modelo chino Kimi K3, el cual reavivó los temores regulatorios sobre la transferencia de tecnología.
Los modelos de pesos abiertos son sistemas de inteligencia artificial cuyos parámetros entrenados se publican para que terceros puedan descargarlos, adaptarlos y ejecutarlos de forma local en su propia infraestructura de hardware.
El debate de Kimi K3 y la postura de Anthropic
La controversia escaló tras la publicación de Kimi K3 por parte de la empresa china Moonshot AI. Este desarrollo liberó sus pesos, permitiendo a investigadores de todo el mundo desplegarlo de manera independiente.
Ante el temor de que las empresas estadounidenses dejen de depender de los proveedores locales de software cerrado, decenas de tecnológicas firmaron una carta defendiendo la apertura tecnológica.
Anthropic no firmó ese documento, lo que desató críticas que acusaban a la compañía de utilizar argumentos de seguridad para proteger su negocio cerrado. Amodei respondió de manera tajante: “Anthropic nunca ha defendido una prohibición de los modelos de pesos abiertos”.
Los tres controles de Amodei para contener riesgos
En lugar de prohibir una categoría completa de modelos, el directivo de Anthropic propone concentrar la regulación en tres frentes específicos:
- Restricción de hardware avanzado: Estados Unidos debe frenar la venta de chips a China y combatir activamente el contrabando y las redes de intermediarios que facilitan su adquisición.
- Freno a la destilación de software: Evitar que laboratorios extranjeros utilicen las respuestas de modelos avanzados estadounidenses para entrenar sus propios sistemas. Anthropic identificó en febrero más de 3.4 millones de intercambios fraudulentos vinculados a Moonshot que extraían información de Claude.
- Pruebas de seguridad globales: Implementar evaluaciones obligatorias antes del lanzamiento para detectar vulnerabilidades críticas, armas biológicas y fallas de alineación, aplicables tanto a sistemas abiertos como cerrados.
El reto de la infraestructura para América Latina
Para los desarrolladores en México y el resto de Latinoamérica, la existencia de alternativas abiertas no soluciona el problema de la infraestructura de forma automática.
El despliegue de Kimi K3, por ejemplo, requiere un archivo de 1.56 TB y configuraciones recomendadas de al menos 64 aceleradores para funcionar adecuadamente.
La propuesta de Anthropic busca que las regulaciones no se basen en el formato de distribución del software, sino en las capacidades reales del modelo y el control del hardware necesario para entrenarlo.
