✨︎ Resumen (TL;DR):
- ChatGPT, Claude, Gemini y Grok ofrecieron información suficiente para planear ataques en dos escenarios simulados.
- La GAO obtuvo resultados en menos de 12 horas por plataforma, pese a los controles de seguridad.
- Maggie Hassan anunció una audiencia y estudia evaluaciones más rigurosas antes de que nuevos modelos lleguen al público.
ChatGPT, Claude, Gemini y Grok dieron información suficiente para planear ataques en dos escenarios simulados, concluyó la Oficina de Rendición de Cuentas de Estados Unidos (GAO). Los investigadores obtuvieron esos resultados en menos de 12 horas por plataforma, aunque los cuatro servicios tenían controles de seguridad activos. La GAO publicó la auditoría el 18 de noviembre; después, la senadora Maggie Hassan anunció una audiencia sobre los riesgos de la inteligencia artificial.
Qué midió la auditoría y qué mantuvo en reserva
La GAO realizó las pruebas en la primavera de 2026. Asignó al azar dos plataformas a un escenario de violencia con víctimas masivas y las otras dos a uno de sabotaje de la red eléctrica. La oficina consultó a especialistas para verificar la viabilidad de las respuestas.
En la versión pública, la GAO omitió las solicitudes exactas que permitieron superar los controles de seguridad. También mantuvo en reserva qué plataforma produjo cada resultado.
Qué significan las 12 horas de la prueba
El plazo corresponde a esos ejercicios concretos. La GAO advirtió que puede variar según el tema y la experiencia de quien usa el chatbot. También indicó que la información ya existía y que los sistemas pudieron reunirla en cuestión de horas.
El ensayo no incluyó un grupo de control, así que la oficina no midió cuánto habría tardado una persona con experiencia comparable en encontrar la información mediante otras fuentes. Por eso, la auditoría no permite comparar el tiempo de los chatbots con ese método.
Una prueba por servicio no mide la frecuencia
Los investigadores hicieron una prueba por plataforma. Ese diseño documentó un fallo en cada servicio bajo las condiciones del ensayo, pero no permite calcular con qué frecuencia ocurre ni comparar la eficacia de los controles entre marcas.
Para responder esas preguntas, la GAO tendría que repetir las pruebas y aplicar los mismos escenarios a cada servicio.
Anthropic y OpenAI cuestionaron el alcance
Las empresas dijeron a los auditores que seguían reforzando sus protecciones. Anthropic señaló que la muestra era insuficiente para obtener resultados estadísticamente significativos, una limitación que la GAO reconoció.
OpenAI destacó que ChatGPT rechazó muchas solicitudes y cuestionó si el informe distinguía con suficiente claridad los aportes del sistema y el trabajo de los investigadores. La GAO explicó que su equipo también consultó fuentes externas durante el ejercicio.
La auditoría refleja las versiones probadas en la primavera de 2026 y no determina la eficacia de los cambios posteriores.
Hassan plantea pruebas antes del lanzamiento
Con el nuevo Congreso, la senadora Maggie Hassan, quien solicitó la auditoría, asumirá la presidencia del Comité de Seguridad Nacional y Asuntos Gubernamentales del Senado. Anunció que una de sus primeras audiencias abordará los riesgos de la IA para la seguridad y la infraestructura crítica.
Entre las medidas que estudia figura exigir evaluaciones más rigurosas antes de que las empresas pongan nuevos modelos a disposición del público.
En una iniciativa aparte, los senadores Maria Cantwell y Mike Rounds pidieron a la Casa Blanca acelerar la protección de infraestructura crítica, bancos y software de uso extendido frente a amenazas informáticas asistidas por IA, según Reuters. La carta reclama una respuesta federal ante amenazas a sistemas que ya están en uso; la propuesta de Hassan se enfoca en las pruebas que harían los desarrolladores antes del lanzamiento.
La fecha exacta de la audiencia sigue pendiente. Si la exigencia de Hassan se convierte en un proyecto de ley, su alcance dependerá de qué versiones deban evaluarse y cuándo tendrán que repetirse las pruebas tras una actualización.
