✨︎ Resumen (TL;DR):
- Noam Brown dijo que 10,000 agentes no explican por sí solos el resultado de OpenAI sobre Navier-Stokes.
- OpenAI reportó 130,000 millones de tokens de salida, 88 horas de trabajo y 17 horas adicionales para formalizar y verificar el resultado en Lean.
- El investigador alertó que las capacidades internas pueden avanzar más rápido que las evaluaciones y los lanzamientos públicos.
Noam Brown, investigador de OpenAI, pidió no volver a subestimar la IA durante una entrevista con Dwarkesh Patel publicada el 17 de septiembre. Su argumento: modelos capaces de sostener tareas largas y coordinar agentes en paralelo pueden avanzar más rápido de lo que los laboratorios alcanzan a evaluar o poner a disposición del público. El trabajo sobre Navier-Stokes ilustra el problema, pero 10,000 agentes no explican por sí solos su resultado.
Los multiagentes no explican todo
Un sistema multiagente es una forma de paralelizar el cómputo de inferencia que permite a varias instancias trabajar y comunicarse para reducir la latencia. En lugar de esperar a que un solo modelo complete un proceso largo, varias instancias operan en paralelo.
La coordinación tiene un costo. Brown explicó que la eficiencia cae y que el beneficio depende mucho del problema. Las matemáticas y la búsqueda entre muchas fuentes son relativamente paralelizables; escribir una novela ofrece mucho menos margen para repartir el trabajo.
Los datos públicos que citó llegan a 1, 4 y 16 agentes. En algunos benchmarks, 4 agentes resolvieron una tarea en la mitad del tiempo, con cerca del doble del costo. Brown calificó ese escalamiento como ligeramente sublineal y fue especialmente cauto con la cifra de 10,000 agentes que OpenAI usó en su trabajo sobre Navier-Stokes.
“No le atribuiría ni 10% del crédito a los multiagentes”, dijo Brown. Para él, el factor decisivo fue un modelo general muy potente, capaz de sostener razonamientos largos y de pensar en paralelo.
OpenAI todavía no ha medido cuánto ayudó coordinar 10,000 agentes frente a 1,000 o frente a un solo agente. Brown incluso dijo que hoy es posible que 10,000 personas se coordinen mejor que 10,000 agentes. El hito no demuestra todavía una ley de escalamiento para enjambres de IA.
Navier-Stokes: un caso matemático específico
OpenAI sostiene que su sistema interno produjo una prueba analítica para un caso muy específico de Navier-Stokes: una configuración tridimensional que parte de condiciones suaves, recibe una fuerza externa suave y desarrolla una singularidad en tiempo finito.
La empresa publicó una formalización en Lean, un lenguaje que permite comprobar formalmente cada paso de una demostración. También afirma que el caso satisface las alternativas C y D de la formulación oficial del Problema del Milenio.
Para llegar a ese resultado, OpenAI reportó alrededor de 10,000 agentes concurrentes, 130,000 millones de tokens de salida y unas 88 horas de trabajo. La formalización y la verificación en Lean tomaron 17 horas adicionales, según la empresa.
El trabajo no corresponde a una simulación numérica ni predice que todos los sistemas reales descritos por esas ecuaciones fallen. Presenta un contraejemplo matemático construido, con forzamiento externo, que la formulación de Clay contempla.
Eso tampoco significa que el premio esté concedido. OpenAI dice que no pretende reclamarlo. Las reglas del Clay Mathematics Institute exigen publicar en un medio calificable, esperar un periodo de al menos 2 años y obtener aceptación general de la comunidad matemática antes de considerar una solución para el Millennium Prize.
La formalización publicada es un avance técnico relevante, pero no sustituye ese proceso.
La capacidad interna se separa del acceso público
La entrevista también expuso una asimetría. Patel planteó que los lanzamientos externos pueden quedarse cualitativamente por detrás de las capacidades internas si los laboratorios necesitan más tiempo para evaluar modelos peligrosos. Brown coincidió: retrasar una liberación da margen para probarla, pero amplía la diferencia entre lo que el laboratorio puede hacer y lo que el resto del mundo puede usar.
El caso de las matemáticas muestra esa tensión. OpenAI dijo en su anuncio que el modelo interno usado para Navier-Stokes es significativamente más capaz que GPT-6 Astra y no está disponible de forma pública. Brown calificó esa situación como una ventaja injusta y admitió que no hay una respuesta sencilla para equilibrar seguridad, acceso y concentración de capacidad.
Brown no anunció una fecha de lanzamiento ni una política para restringir modelos públicos. Su punto fue otro: si las tareas que un modelo puede completar llegan a durar meses, pero los ciclos de lanzamiento duran semanas, será difícil evaluar toda la conducta del sistema antes de que aparezca la siguiente generación.
La alineación no puede ir detrás de la capacidad
Brown considera que vigilar la cadena de pensamiento de los modelos sigue siendo una herramienta valiosa, pero no una solución definitiva. Advirtió que castigar directamente un razonamiento peligroso puede enseñar al modelo a ocultarlo y dijo que OpenAI ya ve señales de deterioro en esa capacidad de monitoreo.
Su propuesta es combinar esa vigilancia con controles de seguridad y evaluaciones más amplias, en lugar de depender de una sola técnica.
Un día antes de la entrevista, OpenAI publicó un marco para investigar y divulgar casos de comportamiento inesperado o preocupante en sus modelos. La empresa reconoció que la industria todavía no ha resuelto suficientemente la alineación y el monitoreo como para seguir escalando a velocidad máxima durante mucho tiempo de forma responsable.
Brown resumió la preocupación con una frase: “No queremos volver a estar en una situación en la que subestimemos a la IA”.
La entrevista no presenta los 10,000 agentes como una explicación suficiente. La advertencia apunta a medir mejor cuánto aporta la coordinación, qué parte corresponde al modelo general y si los controles alcanzan a evaluar una capacidad que el público todavía no puede usar. Mientras una tarea pueda durar meses y los ciclos de lanzamiento duren semanas, esa diferencia seguirá siendo el problema concreto: entender el sistema antes de que llegue la siguiente generación.
