CAIS cuestiona la seguridad de Anthropic antes del IPO

CAIS cuestiona la seguridad de Anthropic antes del IPO

CAIS y otros firmantes cuestionan los compromisos de seguridad de Anthropic antes de su salida a bolsa.

Por Humberto Toledo el 18 de noviembre del 2026 a las 10:24 pm PST

✨︎ Resumen (TL;DR):

  • El CAIS se sumó a MisAnthropic, una declaración que cuestiona los compromisos de seguridad de Anthropic antes de su salida a bolsa.
  • Anthropic considera alcanzado un umbral interno relacionado con una duplicación del ritmo de avance de las capacidades de IA.
  • La empresa evalúa las consecuencias de esa decisión y se comprometió a publicar más informes.

El Center for AI Safety (CAIS) se sumó el 18 de noviembre a MisAnthropic, una declaración que cuestiona los compromisos de seguridad de Anthropic antes de su salida a bolsa. Los firmantes sostienen que la empresa busca adelantarse a sus rivales con IA capaz de acelerar su propia mejora.

Entre quienes firmaron están Thomas Wolf, cofundador de Hugging Face, y Judea Pearl, ganador del Premio Turing. También aparecen Rumman Chowdhury, directora ejecutiva de Humane Intelligence, y Max Tegmark, cofundador del Future of Life Institute.

El grupo incluye además a Guillaume Verdon, fundador de Extropic e impulsor de e/acc, movimiento que promueve acelerar el desarrollo tecnológico.

MisAnthropic acusa a Anthropic de usar su reputación en seguridad para atraer inversionistas y empleados, mientras debilita compromisos internos y promueve reglas que, a juicio de los firmantes, favorecen a la compañía. Dan Hendrycks, director ejecutivo del CAIS, centró su crítica en esos cambios justo cuando Anthropic busca capital en el mercado público.

OpenAI firma acuerdos con cuatro evaluadores de IA
Te podría interesar:
OpenAI firma acuerdos con cuatro evaluadores de IA

Anthropic ya considera alcanzado su umbral de aceleración

En la actualización de su prospecto presentada ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) el 17 de noviembre, Anthropic dice que cada versión de Claude ayuda a construir la siguiente. La empresa presenta esa dinámica como una ventaja competitiva.

El documento también advierte que acelerar de forma pronunciada el desarrollo mediante IA puede dificultar la evaluación y mitigación de riesgos.

El prospecto del 2 de noviembre señalaba que Anthropic podría alcanzar pronto el umbral de aceleración de su política de seguridad. En la enmienda del 10 de noviembre, la compañía ya lo dio por alcanzado y mantuvo esa evaluación en la actualización del 17 de noviembre.

El umbral de aceleración es el punto que la política de seguridad de Anthropic considera alcanzado cuando la empresa observa o proyecta una duplicación del ritmo de avance de las capacidades de IA, atribuible en buena parte a la automatización de la investigación o la ingeniería. Anthropic explicó que tomó la decisión por lo que espera de sus modelos futuros y por el ritmo general de avance.

El prospecto trata como hipotética la capacidad de diseñar y construir nuevas generaciones de modelos de manera plenamente autónoma. Anthropic dice que, si esa capacidad llega a ser técnicamente posible, no espera poder hacerlo de forma segura sin supervisión humana efectiva. También estudia actualizar su política para mantener ese control.

La política ya no incluye una pausa general

En febrero, Anthropic retiró el compromiso general de pausar el desarrollo si sus sistemas superaban ciertos niveles de capacidad antes de que estuvieran listas las salvaguardas. Jared Kaplan, director científico de la empresa, dijo a TIME que detener el trabajo de forma unilateral tendría poca utilidad si sus competidores seguían avanzando.

La política vigente contempla informes públicos de riesgo cada 3 a 6 meses. En su propuesta de regulación para la IA avanzada, Anthropic también planteó que las autoridades puedan impedir el despliegue de modelos que representen un riesgo grave y que los desarrolladores se sometan a evaluaciones independientes.

Al cierre de esta nota no se había podido verificar una respuesta pública de Anthropic a MisAnthropic. En el prospecto, la compañía se compromete a publicar más informes y dice que aún evalúa las consecuencias de dar por alcanzado el umbral.

Esos documentos permitirán comprobar si Anthropic fija nuevas condiciones al uso de Claude para desarrollar sus próximos modelos.

Fuentes: 1, 2, 3, 4

+ Temas Relacionados

Más de AI

Feed