✨︎ Resumen (TL;DR):
- Dario Amodei defendió 9 decisiones de seguridad que considera costosas para el negocio y asumió fallas de redacción y coordinación interna.
- El borrador de Anthropic exigiría al Departamento de Comercio acudir a un tribunal federal para bloquear un modelo, con una carga probatoria que Shakeel Hashim considera excesiva.
- Anthropic empezó a dar acceso a 6 integrantes de METR, con libertad para publicar evaluaciones y límites sobre información confidencial.
Dario Amodei, CEO de Anthropic, defendió la estrategia de seguridad de la compañía y admitió fallas en la gestión de su propuesta de ley federal de IA en Estados Unidos. Respondió a Nathan Calvin, de Encode AI, quien cuestionó si la empresa prioriza el desarrollo de modelos más potentes sobre sus compromisos de seguridad.
En una publicación del 19 de octubre, Calvin señaló la expansión del cómputo, el uso de Claude para desarrollar nuevos modelos y el contenido del borrador legislativo. Consideró que la propuesta resulta insuficiente para contener los riesgos de modelos avanzados.
Amodei sostiene que su “carrera hacia la cima” exige competir en la frontera tecnológica para elevar las prácticas del sector.
El CEO enumeró 9 decisiones que considera comercialmente costosas. Entre los ejemplos que citó están:
- filtros biológicos restrictivos;
- el acceso inicialmente limitado a modelos de la clase Mythos;
- las restricciones a empresas controladas desde China;
- el compromiso de destinar 5 % de la compañía a un fondo de beneficio público.
Amodei también reconoció que manejó mal algunos episodios por problemas de redacción y coordinación interna. Asumió la responsabilidad, pero mantuvo su defensa de la estrategia.
La disputa se concentra en quién puede frenar un modelo
En su análisis para Transformer, Shakeel Hashim cuestionó que el borrador de Anthropic exija al Departamento de Comercio acudir a un tribunal federal para bloquear un modelo. También consideró excesiva la carga probatoria necesaria para hacerlo.
Hashim señaló que los evaluadores podrían certificarse por sí mismos, sin los estándares ni las licencias contemplados en la propuesta bipartidista FRONTIER Act.
Además, advirtió que desplazar las leyes estatales sobre IA, incluidas las facultades para suspender modelos por riesgos catastróficos, podría dificultar una intervención. Esa es la lectura de Hashim sobre un borrador que todavía es una propuesta de Anthropic.
Anthony Cimino, responsable de asuntos federales de Anthropic, respondió que la compañía revisará la redacción sobre la prevalencia de la norma federal frente a las estatales. Su objetivo declarado es preservar un papel para los estados en los estándares de evaluación y mantener la capacidad de los laboratorios para apagar modelos.
Cimino defendió la intervención judicial como protección ante posibles abusos. A la vez, admitió que el requisito para bloquear un sistema debe permitir actuar cuando sea necesario. Ese mecanismo, añadió, no sustituiría otras facultades de seguridad nacional ni los controles de exportación del Gobierno.
METR obtiene más acceso, pero Anthropic fija límites
Según la actualización del 15 de octubre, Anthropic empezó a conceder a 6 integrantes de METR acceso a herramientas internas y espacios de trabajo con un nivel aproximadamente comparable al de sus propios evaluadores de riesgos.
Quedan fuera del acceso:
- datos de clientes;
- información protegida por secreto profesional;
- determinadas cuestiones de arquitectura de los modelos.
METR puede publicar sus evaluaciones sin veto de Anthropic. La compañía sí puede exigir que oculte información incluida en categorías predefinidas de confidencialidad, y decide qué información entra en ellas. METR conserva el derecho a hacer determinadas declaraciones sobre el acceso recibido.
Anthropic describe 3 niveles de colaboración. En el inicial, la publicación requiere aprobación de la empresa. El nivel de METR ofrece mayor acceso y libertad de publicación. El resto de la organización METR permanece separado del trabajo de ese equipo dentro de Anthropic.
El punto pendiente es quién puede frenar un modelo y bajo qué estándar. Anthropic revisará la redacción sobre la prevalencia de la norma federal frente a las estatales. La colaboración con METR amplía el acceso de un evaluador externo, pero mantiene las categorías confidenciales bajo decisión de la propia compañía.
