✨︎ Resumen (TL;DR):
- Dwarkesh Patel propuso exigir que los laboratorios pongan a disposición del público los modelos que usan para investigar y hacer ingeniería.
- En una entrevista publicada el 15 de octubre de 2026, advirtió que pausar los lanzamientos podría alejar al público de los sistemas que impulsan el desarrollo interno.
- Noam Brown planteó un dilema: un modelo que trabaja durante tres meses puede llegar a la siguiente versión antes de completar una evaluación si el ciclo de lanzamiento dura dos meses.
Dwarkesh Patel propuso que los laboratorios de inteligencia artificial pongan a disposición del público los modelos que usan internamente para investigar y hacer ingeniería. El conductor de Dwarkesh Podcast sostiene que detener nuevos lanzamientos mientras continúa el desarrollo privado dejaría a reguladores y ciudadanos con herramientas cada vez más alejadas de las que usan los laboratorios.
Patel formuló la propuesta durante una entrevista con Tyler Cowen publicada el 15 de octubre de 2026 por The New York Times. En la conversación de Interesting Times, el conductor de Dwarkesh Podcast dijo: “Si quieren usar estos modelos internamente para investigar, para hacer ingeniería, también tienen que ponerlos a disposición del público”.
Una pausa de lanzamientos puede agrandar la brecha
Patel teme que, conforme la IA ayude a desarrollar modelos más capaces, las empresas pierdan incentivos para ofrecer sus mejores sistemas fuera de la compañía. Lanzarlos exige preparar salvaguardas y aceptar el escrutinio público; mantenerlos dentro permite utilizarlos para acelerar la investigación propia.
La consecuencia sería una distancia creciente entre lo que ocurre dentro de los laboratorios y lo que pueden examinar reguladores y ciudadanos. Ambos grupos tendrían que evaluar el progreso con herramientas cada vez más alejadas de las que utilizan las empresas.
Por eso Patel rechaza una pausa que solo suspenda nuevos productos mientras la investigación interna continúa al mismo ritmo. Reconoce que desplegar modelos puede provocar incidentes y daños, pero defiende la exposición externa como una forma de detectar comportamientos inesperados que las evaluaciones internas no encuentran.
También consideró razonable contar con evaluadores independientes con competencia técnica. No definió, sin embargo, cómo organizar esa supervisión ni cómo hacerla cumplir.
Evaluar más tiempo también retrasa el acceso
El dilema aparece de forma concreta en una entrevista publicada el 17 de septiembre. Noam Brown, investigador de OpenAI, explicó a Patel que las pruebas de seguridad deben adaptarse a agentes capaces de trabajar durante periodos cada vez más largos.
Brown planteó un ejemplo hipotético: si un modelo puede ejecutar tareas durante tres meses y el ciclo de lanzamientos dura dos meses, la siguiente versión llegaría antes de completar una evaluación que cubra toda la duración de su trabajo.
Retrasar el lanzamiento daría más tiempo para probar el sistema, pero también ampliaría la diferencia entre las capacidades disponibles dentro y fuera del laboratorio. Brown reconoció que no tenía una respuesta resuelta para ese dilema.
Las dos entrevistas plantean exigencias distintas para un mismo calendario. Patel busca ampliar quién puede examinar los sistemas; Brown pone el foco en cuánto tiempo hace falta observarlos. Dar acceso externo y completar las pruebas no resuelven el mismo problema.
La AGI depende del aprendizaje durante el trabajo
La inteligencia artificial general (AGI) es un tipo de inteligencia artificial que puede realizar de principio a fin el trabajo cognitivo de una persona. Patel discutió con Cowen qué tendría que cambiar para alcanzar ese nivel y sostuvo que los modelos actuales todavía están lejos de conseguirlo.
Una de las razones, según Patel, es que los modelos aún no aprenden de la experiencia laboral como lo hace una persona. Esa diferencia también condiciona sus pronósticos: apuesta a que el desempeño en memoria y planificación prolongada mejore hasta un nivel excelente en uno a tres años, aunque reconoció que no se puede fechar con precisión una solución técnica que todavía se desconoce.
En un ensayo publicado el 7 de agosto, Patel ya había vinculado el aprendizaje continuo con la supervisión. Si un modelo cambia mientras trabaja, una evaluación realizada únicamente antes del lanzamiento pierde parte de su utilidad.
Como alternativa, propuso inspecciones de riesgo mensuales o trimestrales, en vez de concentrar toda la revisión en el momento inicial. La propuesta parte de que un sistema puede cambiar durante el trabajo que realiza.
El aprendizaje durante el trabajo pone a prueba el pronóstico
Cowen cuestionó el calendario de automatización de Patel. El economista espera que la colaboración entre personas e IA persista durante décadas, debido a la dificultad de integrar estos sistemas en instituciones y a que muchos usuarios prefieren tratar con humanos.
Patel señaló el aprendizaje durante el trabajo como la prueba que podría desmentir sus expectativas. Si en 2035 el mundo hubiera cambiado mucho menos de lo que prevé, su explicación más probable sería que ese problema técnico resultó demasiado difícil de resolver.
La tensión queda delimitada: mantener los modelos más capaces dentro de los laboratorios puede dejar al público con herramientas rezagadas, pero liberar sistemas antes de terminar las pruebas para tareas largas puede exponerlos a incidentes que la evaluación interna no detectó. Patel pide cerrar la primera brecha con acceso externo; el dilema de Brown muestra que eso no elimina la segunda.
