✨︎ Resumen (TL;DR):
- Terence Tao advierte que la velocidad de la IA puede debilitar el aprendizaje y la creación de nuevas ideas matemáticas.
- Frank Calegari propone evaluar la comprensión de los autores y cambiar entrevistas, revistas y formación.
- El caso de John Urschel y Rikhav Shah separa la obtención de una demostración de la tarea de hacerla comprensible.
Terence Tao, profesor de la Universidad de California en Los Ángeles y ganador de la Medalla Fields, advirtió que la carrera por resolver problemas matemáticos con inteligencia artificial puede debilitar el aprendizaje y la creación de nuevas ideas. Frank Calegari, profesor de la Universidad de Chicago, propuso el 1 de noviembre cambiar la forma de evaluar investigaciones y contratar a quienes las realizan, con mayor atención a la comprensión de sus autores.
Un perfil de The New Yorker, publicado el 1 de noviembre y escrito por Rivka Galchen, recupera la advertencia de Tao. El matemático lleva tiempo defendiendo que la IA puede ser útil en matemáticas. Su preocupación está en el ritmo al que llegan las respuestas y en lo que ocurre cuando la comunidad no dispone de tiempo o explicaciones suficientes para comprenderlas.
En una charla en Caltech el 11 de septiembre, Tao dijo: “Tenemos que bajar el ritmo. El ritmo es una locura”. Cuando le preguntaron de dónde surgirían los próximos problemas, señaló que nacen del proceso lento de buscar soluciones y advirtió que ese proceso estaba siendo destruido.
La inquietud también alcanza la formación. En su conversación con la revista, Tao planteó que algunos problemas en los que un estudiante de posgrado podía trabajar durante meses ahora pueden resolverse con herramientas de IA en horas. Eso obliga a repensar cómo se adquiere experiencia.
Calegari propone evaluar la comprensión
El mismo 1 de noviembre, Calegari publicó un ensayo como invitado en el blog de Tao. Su propuesta es evaluar todos los trabajos como si pudieran haber recibido ayuda de IA.
Calegari plantea pedir a los autores que expliquen por qué importa el resultado, qué preguntas abre y cómo se conecta con otras áreas. El criterio pone el foco en la comprensión que acompaña a la demostración.
Calegari también propone:
- Dar más peso a las entrevistas presenciales para puestos posdoctorales y de posgrado.
- Exigir a las revistas exposiciones más claras.
- Ampliar la formación de los estudiantes sin abandonar las habilidades técnicas.
Son propuestas de Calegari, no medidas adoptadas por universidades ni una declaración escrita por Tao.
Calegari considera que la IA puede ayudar a explorar problemas que antes resultaban demasiado difíciles de abordar. A su juicio, formular preguntas valiosas y comprender sus respuestas debería contar como una contribución, incluso cuando una herramienta haya generado la demostración inicial.
Matemáticas 2.0 es un planteamiento de Tao que busca dar más valor a la comprensión humana e integrar las herramientas de IA en la comunidad matemática. El objetivo no es impedir el uso de estas herramientas.
Un manuscrito muestra la tensión en la práctica
El perfil de The New Yorker describe el caso de John Urschel y Rikhav Shah, del MIT. Urschel contó que llevaba años trabajando en un problema relacionado con la eliminación de Gauss, un método para resolver sistemas de ecuaciones.
Ante la preocupación de que otros se adelantaran, decidió usar IA junto con Shah. En su manuscrito, ambos detallan qué partes desarrollaron con ayuda de IA y cuáles hicieron sin ella.
Una construcción surgida de la interacción con los modelos siguió una hoja de ruta humana y resultó difícil de seguir. Después, los autores elaboraron sin IA una versión más sencilla que incorporaron al texto. El manuscrito está disponible como prepublicación.
El caso ayuda a distinguir entre obtener una demostración y volverla comprensible para otros investigadores. Ambas tareas pueden formar parte del mismo trabajo, pero el tiempo y el reconocimiento que recibe cada una son parte del debate.
OpenAI pone la verificación sobre la mesa
OpenAI publicó en octubre una colección de manuscritos producidos por un modelo interno. La empresa señala en su repositorio que los resultados están en distintas etapas de verificación y que no todos cuentan con una formalización en Lean.
Lean es una herramienta que permite comprobar la lógica de una demostración expresada en lenguaje formal.
Para Calegari, las contrataciones y las decisiones de las revistas ofrecen a la comunidad matemática una forma de cambiar sus incentivos. La propuesta consiste en premiar también la capacidad de explicar una idea y construir nuevas preguntas a partir de ella.
El uso de IA no aparece aquí como una prohibición. La discusión está en cómo evaluar un trabajo cuando una herramienta ayuda a producir la demostración: para Calegari, la comprensión de esa respuesta y las nuevas preguntas que permite construir también deberían contar.
