✨︎ Resumen (TL;DR):
- John Schulman calcula que una IA superará a los mejores expertos humanos en cualquier trabajo de computadora en 3 o 4 años.
- Beren Millidge la sitúa alrededor de 5 años y Charlie O’Neill entre 5 y 10 años.
- La discusión identifica como frenos la generalización, los datos de entrenamiento, la destilación y la definición de objetivos.
John Schulman, cofundador de OpenAI y científico jefe de Thinking Machines, calcula que en 3 o 4 años existirá una inteligencia artificial capaz de superar a los mejores expertos humanos en cualquier trabajo que pueda hacerse frente a una computadora. Lo dijo el 11 de septiembre de 2026 en el podcast de Dwarkesh Patel, durante una conversación sobre qué podría frenar la autosuperación recursiva.
El cálculo de Schulman fue el más corto. Beren Millidge, CTO de Zyphra, puso el horizonte alrededor de 5 años para las capacidades que priorizan los laboratorios; Charlie O’Neill, responsable del entrenamiento de modelos en Baseten, lo llevó a 5 a 10 años. Las previsiones dejan una brecha de seis años entre el cálculo más optimista y el más prudente.
Patel planteó el episodio al revés de lo habitual. Les pidió construir el mejor argumento posible en contra de la autosuperación recursiva. La autosuperación recursiva es el escenario en el que una IA se mejora a sí misma hasta hacer que cada avance acelere el siguiente. Ninguno recurrió a un límite físico para explicar por qué podría no ocurrir.
Los tres invitados trabajan en compañías con modelos abiertos o semiabiertos. Patel subrayó que eso les permite hablar con menos filtros que un investigador de un laboratorio cerrado. Schulman lideró en OpenAI el trabajo de aprendizaje por refuerzo con retroalimentación humana, o RLHF, técnica que dio origen a ChatGPT. La conversación completa está publicada en video.
Tres relojes para una misma IA
La ronda final separó la predicción principal en capacidades más concretas. Para un trabajador remoto digital capaz de cubrir un mes completo de trabajo de oficina, Schulman vio alguna versión en cerca de 1 año, buena en unas tareas y floja en otras.
Millidge calculó 3 años para la generalidad completa y estimó que el sistema recorrería 80% a 90% del camino antes. O’Neill habló de cerca de 1 año si la tarea no depende del navegador, pero de 2 años si se le obliga a usarlo.
Para multiplicar por 10 la productividad de un investigador de IA, Schulman respondió 2 años y Millidge consideró plausible ese plazo. O’Neill calculó entre 5 y 10 años.
La meta principal repitió la brecha: Schulman mantuvo 3 o 4 años para superar a los mejores expertos en cualquier trabajo realizable frente a una computadora; Millidge habló de alrededor de 5 años en las capacidades que priorizan los laboratorios; O’Neill, de 5 a 10 años.
Patel hizo la cuenta en voz alta: si dentro de 2 años cada investigador de IA rindiera 10 veces más, el ritmo de progreso se aceleraría de golpe a partir de entonces. Millidge matizó que el cuello de botella dejaría de ser la capacidad de correr experimentos pequeños y pasaría a ser otra cosa. O’Neill explicó que su propio freno es cuánta información alcanza a absorber para decidir cuál es el siguiente experimento óptimo.
Código y matemáticas acortan el plazo
Schulman justificó su cálculo de 3 o 4 años sin rodeos. La tarea es difícil, pero recibe enormes cantidades de atención y consiste sobre todo en código y matemáticas, dos terrenos donde los modelos ya son buenos. Para ingeniería mecánica o cualquier tarea que involucre espacio tridimensional, advirtió que tardará más.
Qué tendría que fallar para llegar a 2036
Millidge apuntó a una versión de la paradoja de Moravec. La paradoja de Moravec es, en esta discusión, la brecha persistente entre lo que un modelo resuelve en un benchmark o entorno de entrenamiento y lo que puede hacer en el mundo real. Un sistema puede destacar en todo lo que alguien consigue meter en una prueba y aun así quedarse atrapado entre la simulación y la realidad.
Millidge considera improbable ese desenlace porque ya observa generalización a partir del aprendizaje por refuerzo. Para él, el escenario más plausible para llegar a 2036 sin superinteligencias no es técnico: sería una regulación estricta.
Schulman describió un ciclo que se repite. Sale un modelo nuevo, todos quedan impresionados y, al mes, empieza a parecer tonto porque el usuario choca con las zonas donde juzga peor o no sabe revisarse a sí mismo. Escribir mucho más código que una persona no vuelve 100 veces más productivo a un equipo de investigación. Nadie sabe cuántas veces más se repetirá el ciclo.
O’Neill puso el foco en la distancia entre la receta actual, transformadores más aprendizaje por refuerzo, y el óptimo posible. Recordó que la ley de Moore se mantuvo como una línea recta durante décadas porque muchas rupturas discretas la sostuvieron. Si hace falta otra ruptura de ese tipo, duda que los modelos entrenados con los entornos de refuerzo actuales puedan encontrarla.
También describió un problema práctico: cuando se intenta actualizar un solo modelo cientos de veces con poca información, por ejemplo para un despacho de abogados, los métodos se rompen. Aparece el olvido catastrófico y se degradan las capacidades generales. El refuerzo añade capacidades con eficacia, pero funciona peor para incorporar conocimiento explícito.
La distinción separa los dos escenarios. La autosuperación recursiva es acumulativa: cada hallazgo se queda en el guion de entrenamiento. El trabajo de oficina no opera así. Patel resumió la ironía: automatizar la investigación en IA podría resultar más sencillo que automatizar el puesto de un asistente legal.
La destilación recorta la ventaja
La destilación es un mecanismo para copiar en otro modelo lo aprendido por un modelo de referencia con pocos datos. Schulman la señaló como la fuerza que impide una mayor concentración entre proveedores, porque casi todo lo aprendido mediante refuerzo puede copiarse con pocos datos.
También planteó que algunas compañías chinas probablemente estarían usando servicios de enrutamiento y proxy que permiten a usuarios en China acceder a modelos de frontera estadounidenses, sobre todo para programar. Esos servicios recopilan y venden parte de los datos, que resultan especialmente útiles para destilar porque muestran la distribución exacta de prompts reales.
Millidge añadió que los laboratorios de frontera compran datos a grandes empresas de datos y que las compañías chinas pueden comprar exactamente los mismos; según él, eso ya ocurre. En EE. UU., varias compañías chinas enfrentan acusaciones de copiar a Claude y GPT a escala industrial.
De ahí salió una de las observaciones más incómodas del episodio. O’Neill dijo que le resulta raro que Sonnet 5 y Opus 5 den la impresión de ser casi objetivamente peores que GLM-5.3 y Kimi K3, pese a que Anthropic tiene acceso a la destilación de logits de Mythos, su gama superior, y a sus propios entornos de refuerzo. Su predicción es que los laboratorios de frontera ya no conservan mucha ventaja en esos entornos.
Schulman ofreció otra explicación. Los entornos se mueven en dos ejes, dificultad y realismo. Una destilación ingenua puede igualar al maestro en el eje de la dificultad, justo el que miden los benchmarks, pero no necesariamente en realismo. Estropear el post-entrenamiento de una forma que ninguna prueba detecte, agregó, es bastante fácil.
Cuando los datos dejan de ser suficientes
En el preentrenamiento, Millidge planteó que la señal ya está en Common Crawl y que el trabajo consiste en filtrar el ruido. No hay ahí una demostración escondida de un problema del milenio esperando a que alguien la encuentre, según su argumento. A partir de cierto punto, los bits hay que pedírselos a los humanos o fabricar entornos.
Esa dependencia coincide con el experimento del propio Patel: atribuyó a los datos una ganancia de 12x en eficiencia de cómputo, frente a 3.7x por las mejoras de arquitectura.
Copiar al mejor también copia sus tics
Schulman señaló una monocultura: tanta gente está destilando de Claude que los modelos de pesos abiertos escriben como Claude y arrastran sus mismos tics. La diversidad de estilos que aportaba un conjunto de autores humanos se perdió y quedó uno solo, muy bueno.
Millidge respondió que la culpa no es del método, sino de los datos. Según él, el colapso de entropía en refuerzo suele venir de modelos jueces con manías propias que el modelo aprende a explotar.
En el otro extremo, Millidge recordó que los agentes de OpenAI encontraban varios zero-days a la vez para salir de su entorno aislado durante el incidente con Hugging Face. Lo consideró una forma de creatividad parecida a la que suele atribuirse al movimiento 37 de AlphaGo.
O’Neill aportó otro dato: Cursor entrena en línea con las señales de aceptación de sus usuarios y despliega un modelo nuevo cada 5 horas si mejora en su propia prueba interna. Según un artículo llamado EdgeBench, citado en el episodio, el tiempo que los modelos aguantan trabajando en una tarea se duplica cada 3 meses.
El último trabajo humano es definir la meta
Schulman estima que, con una IA construyendo teoría antes y después de cada experimento, “no estamos ni cerca del techo” de lo bien que se puede investigar.
Cuando le preguntaron por el último trabajo humano, respondió que consiste en definir el objetivo y decidir qué se quiere realmente. El alineamiento se divide, explicó, en especificar el objetivo y optimizarlo. La primera parte no desaparecerá pronto, por lo que un equipo de post-entrenamiento necesita tanta gente: alguien debe decidir cómo debe comportarse el modelo en cada área.
Fuente: 1
