✨︎ Resumen (TL;DR):
- Jacob Tsimerman presentó el Mathematical AI Safety Institute el 8 de septiembre de 2026 para estudiar qué condiciones permitirían demostrar que una IA nueva no provocará una catástrofe.
- MAISI busca entre 10 y 30 matemáticos para su primer semestre, en enero de 2027, y entre 30 y 100 para un Special Year que arrancaría en septiembre del mismo año.
- Su planteamiento contempla tres respuestas negativas: la IA no puede hacerse segura, puede ser imposible configurarla o puede no ser verificable.
Jacob Tsimerman, medallista Fields en julio de 2026, hizo público el 8 de septiembre de 2026 el Mathematical AI Safety Institute (MAISI), con sede en el área de la bahía de San Francisco. El instituto quiere darle cimientos matemáticos a la seguridad de la IA y estudiar qué condiciones permitirían demostrar, con alta confianza, que una tecnología nueva no provocará una catástrofe. Su propio planteamiento acepta una posibilidad negativa: quizá la IA no pueda hacerse segura, afinarse o verificarse.
MAISI es un instituto de investigación matemática que estudia qué premisas permiten deducir, con alta confianza, que una nueva tecnología de IA no provocará una catástrofe.
Tsimerman será el director científico y Andrew Critch, matemático de Berkeley, ocupará la dirección ejecutiva. La matemática es una de las pocas disciplinas capaces de demostrar que uno de sus propios problemas no tiene solución, una posibilidad que el instituto aplica al riesgo existencial de la IA.
Tres escenarios en los que la respuesta sería no
MAISI formula su misión como una pregunta: ¿qué premisas permitirían deducir con alta confianza que una tecnología nueva de IA no provocará una catástrofe?
El planteamiento toma como referencias a la física y la estadística. Busca el tipo de respaldo matemático que permite afirmar que un reactor nuclear es seguro o seguir el avance de una pandemia.
Los problemas centrales del riesgo existencial de la IA, advierte el instituto, podrían resultar demostrablemente difíciles o intratables. Su texto público enumera tres obstrucciones:
- No se puede hacer segura. El paradigma actual de desarrollo de IA no puede volverse existencialmente seguro para la humanidad. El único camino que MAISI deja señalado sería un cambio de paradigma de fondo.
- Se puede, pero no se puede afinar. Existe una configuración segura, pero montarla sería demostrablemente caótico y sensible al ruido. El texto la describe como inabordable con lo disponible en septiembre de 2026.
- Se puede, pero no se puede comprobar. La IA podría ser segura, pero verificarlo caería en una clase de complejidad computacional demostrablemente alta. El planteamiento no ofrece un remedio para este caso.
El instituto considera que las tres respuestas serían información que conviene obtener. Si alguna obstrucción existe, quiere saberlo. Y si una tecnología no puede hacerse segura, aspira a que salga a la luz “un relato matemático de esa imposibilidad” antes de que sea demasiado tarde.
MAISI también aclara que los avances matemáticos no bastarán por sí solos. La regulación y el reforzamiento de la infraestructura tecnológica y social seguirán siendo necesarios.
MAISI todavía no abre
Lo anunciado el 8 de septiembre es una convocatoria, no una operación en marcha. Las solicitudes ya están abiertas y el primer semestre comenzará en enero de 2027, con una búsqueda de entre 10 y 30 matemáticos.
Para el Special Year, que arrancaría en septiembre de 2027, el instituto busca entre 30 y 100 participantes. El modelo seguirá la estructura de institutos matemáticos clásicos como el Institute for Advanced Study de Princeton o el Fields Institute de Toronto.
Sus miembros llegarán por 1 o 2 semestres, con oficinas alrededor de un espacio común y salas de seminario. Los aspirantes deben mudarse al área de la bahía de San Francisco, y Tsimerman hará las entrevistas finales.
La convocatoria también conecta a ARC y Resolution
El formulario incluye una casilla poco común. Bajo el rótulo de socios seleccionados, el aspirante puede pedir que su solicitud también la evalúen el Alignment Research Center (ARC) y Resolution, dos organizaciones que MAISI describe como igualmente interesadas en contratar matemáticos para seguridad de la IA.
El panel asesor incluye a Paul Christiano, director de ARC, y Geoffrey Irving, cofundador y científico jefe de Resolution. También participan Ravi Vakil, profesor de Stanford y presidente de la American Mathematical Society desde 2025, y Timothy Gowers, medallista Fields de 1998 y titular de la cátedra de combinatoria en el Collège de France.
El consejo directivo reúne a los matemáticos de la Universidad de Toronto Arul Shankar y Yevgeny Liokumovich, además de Matthew Chou, director general de Unipetro Group. La empresa opera en infraestructura de transporte y lubricantes y tiene su sede en Mississauga.
La página del equipo deja fuera un dato sobre Tsimerman. Su ficha menciona su cátedra en la Universidad de Toronto y cuatro premios previos, entre ellos el Ostrowski de 2023 y el New Horizons de 2022, pero no dice nada de OpenAI.
Tsimerman anunció su llegada a esa empresa para trabajar en seguridad de la IA justo después de recibir la medalla en el Congreso Internacional de Matemáticos de Filadelfia, en julio. Las fichas de Christiano e Irving sí detallan su paso por OpenAI, DeepMind y los institutos de seguridad de Reino Unido y Estados Unidos.
Dos anuncios matemáticos rodearon el lanzamiento
El 4 de septiembre de 2026, Anthropic anunció que su modelo Claude había producido la primera demostración del último teorema de Fermat verificable por computadora. El anuncio describió 13 millones de líneas de código Lean escritas en 11 días, para un proyecto que se calculaba en 10 años de trabajo humano.
Daniel Litt, teórico de números en la Universidad de Toronto, resumió el alcance ante Nature: “Si pueden formalizar el último teorema de Fermat, probablemente puedan formalizar cualquier cosa”.
Cuatro días después, el 8 de septiembre, OpenAI dijo haber generado una solución al problema de Navier-Stokes, uno de los 7 Problemas del Milenio del Clay Mathematics Institute. Cada problema tiene una recompensa de 1 millón de dólares.
Según Nature, OpenAI concentró recursos en Navier-Stokes el 1 de septiembre, después de enterarse de rumores de que Levent Alpöge, de Harvard, y Tristan Buckmaster, de la Universidad de Nueva York, habían resuelto alguna versión del acertijo con modelos de Anthropic.
Los dos publicaron su artículo el 7 de septiembre, usando Claude y los modelos Codex y Astra de OpenAI.
Tsimerman ya estudiaba escenarios de omnicidio
En julio de 2025, Tsimerman y Critch subieron a arXiv un informe que clasifica escenarios de omnicidio provocado por la IA.
Omnicidio es una situación en la que muere toda o casi toda la humanidad. Los autores presentan esos escenarios como posibilidades evitables, no como un pronóstico. Las mismas dos firmas ahora dirigen MAISI.
El instituto también quiere apartarse del ritmo académico que inspira su estructura. En lugar de pulir resultados durante años hasta convertirlos en artículos de revista, propone circular documentos vivos en cuanto puedan servirle a alguien que trabaje en seguridad de la IA.
Por ahora, MAISI solo tiene publicadas tres direcciones de investigación para matemáticos y un formulario abierto. Su primer semestre empieza en enero de 2027, con la posibilidad explícita de que el resultado no sea una prueba positiva, sino la conclusión de que el problema no tiene solución desde los cimientos actuales.
