✨︎ Resumen (TL;DR):
- Simons Foundation anunció un programa de 15 millones de dólares para que matemáticos evalúen resultados obtenidos con inteligencia artificial.
- OpenAI aportará 5 millones de dólares y ofrecerá modelos y capacidad de cómputo a investigadores respaldados por Simons.
- Simons administrará las ayudas para apoyar la comprensión de los resultados, además de su comprobación mediante software.
Simons Foundation anunció el 15 de octubre un programa de 15 millones de dólares en financiación y recursos, junto con OpenAI y Anthropic, para que matemáticos evalúen resultados obtenidos con inteligencia artificial. La fundación administrará las ayudas y prevé una convocatoria abierta de propuestas. El plan busca sostener el trabajo humano necesario para comprender las demostraciones junto con su comprobación mediante software.
Verificar una demostración no equivale a comprenderla
OpenAI publicó el 6 de octubre resultados matemáticos atribuidos a un modelo interno. Parte del material incluía formalizaciones en Lean.
Lean es un lenguaje que permite expresar demostraciones de modo que una computadora pueda comprobarlas. Comprobar una demostración y comprenderla son tareas distintas.
El comunicado de la fundación incluye entre sus objetivos aprender a usar nuevas herramientas y acordar criterios comunes para su empleo. El programa puede sostener actividades destinadas a que los investigadores asimilen los resultados, además de la comprobación con software.
Qué aportará cada participante
OpenAI precisó que aportará 5 millones de dólares. El apoyo financiará talleres, conferencias y programas especiales. La empresa también dará acceso a sus modelos y capacidad de cómputo a investigadores respaldados por Simons.
Anthropic también ofrecerá herramientas y recursos de cómputo. El acceso que ofrecerán ambas empresas se extenderá a la ciencia básica.
Simons administrará las ayudas y prevé una convocatoria abierta de propuestas. La fundación será la encargada de organizar el reparto de los recursos del programa.
AGMAI separa comprobar una prueba de entenderla
Las recomendaciones de AGMAI, el grupo asesor de matemáticos, publicadas el 29 de septiembre, distinguen entre los artículos que un investigador comprende y de los que se responsabiliza, y aquellos que aún necesitan trabajo humano para ser entendidos.
Para los primeros, el grupo propone publicar un preprint, someter el artículo a revisión por pares y explicar el trabajo ante colegas. Para los segundos, pide a los laboratorios financiar actividades que ayuden a asimilar los resultados, incluidos grupos de trabajo y textos explicativos.
El programa puede sostener ese esfuerzo de comprensión además de la comprobación con software. AGMAI advierte que aceptar apoyo no supone avalar las prácticas de los laboratorios de IA.
Simons decidirá cómo distribuir las ayudas
El reparto de responsabilidades anunciado coincide con otra recomendación de AGMAI: los laboratorios aportan recursos y una institución sin fines de lucro decide cómo distribuir las ayudas. En este programa, esa tarea corresponde a Simons Foundation.
Simons prevé una convocatoria abierta de propuestas para distribuir las ayudas dentro de este esquema, que separa los recursos aportados por los laboratorios de la decisión sobre qué actividades recibirán apoyo.
