✨︎ Resumen (TL;DR):
- Shane Legg lanzó el DeepMind Institute (DMI) el 16 de septiembre de 2026 para estudiar cómo desarrollar y desplegar la AGI con controles de seguridad.
- El cofundador de Google DeepMind calcula una probabilidad personal de 50% para una AGI mínima en 2028.
- El catálogo inicial aborda seguridad, economía y política, mientras OpenAI, Anthropic y Google DeepMind conversan sobre posibles estándares comunes.
Shane Legg, cofundador y Chief AGI Scientist de Google DeepMind, lanzó el 16 de septiembre de 2026 el DeepMind Institute (DMI), una plataforma para estudiar cómo desarrollar y desplegar la inteligencia artificial general sin dejar atrás los controles de seguridad. El anuncio llega mientras OpenAI, Anthropic y Google DeepMind conversan sobre posibles estándares comunes y Dario Amodei propone reducir el ritmo de los modelos de frontera.
Legg sostiene que el crecimiento de las capacidades de la IA no debe rebasar la capacidad de investigadores, empresas y gobiernos para vigilarla y controlarla. Algunos sistemas ya pueden escribir software, realizar tareas autónomas y encadenar acciones con menos supervisión humana. También pueden ayudar a construir nuevos sistemas de IA.
Si esas capacidades habilitan procesos de mejora recursiva, la velocidad de avance podría superar los mecanismos que en 2026 se usan para evaluar, vigilar y limitar el comportamiento de los modelos. Ese escenario describe un riesgo de control, no una confirmación de que la AGI ya exista.
La inteligencia artificial general (AGI) es un tipo de sistema que puede realizar tareas cognitivas al menos al nivel de una persona promedio, según el ensayo de política económica del DMI. La presentación del instituto usa un criterio más exigente: un sistema con las capacidades cognitivas del cerebro humano.
Los sistemas actuales todavía fallan en tareas básicas y carecen de la consistencia y creatividad necesarias para cumplir con la AGI completa. Los autores de la presentación esperan que esas brechas se cierren pronto.
En una entrevista, Legg consideró que la propuesta de Dario Amodei de reducir, no detener, el ritmo de los modelos más avanzados merecía consideración. También rechazó dar por alcanzada la AGI tras la llegada de modelos recientes de OpenAI y Nvidia.
Su pronóstico es personal: estima en 50% la probabilidad de alcanzar lo que denomina una AGI mínima en 2028. La cifra no constituye un calendario oficial de Google DeepMind.
El DMI quiere ampliar quién decide sobre la AGI
Legg, James Manyika y Demis Hassabis dirigen el instituto. Legg además figura como managing editor. Su misión declarada es impulsar la investigación, la colaboración y el debate interdisciplinario sobre el desarrollo seguro de la AGI, sus usos beneficiosos y sus efectos sociales.
La agenda incluye ciencia, educación, sociedad, política, filosofía y bienestar humano. El DMI reunirá a investigadores y pensadores de Google DeepMind, Google y la comunidad internacional.
La presentación reconoce que no todos estarán de acuerdo y que algunas ideas cambiarán conforme aparezcan nuevos datos. También plantea que los tecnólogos no deben decidir por sí solos cómo construir y gobernar la AGI. Las artes, las humanidades y los gobiernos forman parte de la conversación.
Su función inicial es editorial e intelectual. La descripción publicada no lo presenta como un organismo que certifique modelos o autorice lanzamientos. La página lo presenta como una plataforma para publicar ideas y abrir discusiones sobre un mundo con AGI.
El aviso legal del sitio aclara que sus textos son puntos de partida para la conversación, reflejan las ideas y la investigación de sus autores y no deben leerse como la posición oficial de Google.
El catálogo inicial conecta seguridad, empleo y política pública
El catálogo inicial incluye textos sobre transparencia del razonamiento de los modelos, política económica para la AGI, una propuesta de nuevo utopismo y un marco para la IA de frontera escrito por Hassabis. El conjunto también aborda posibles cambios en el empleo, las instituciones y las decisiones colectivas.
El ensayo de política económica, escrito por Julian Jacobs y Alex Imas, evalúa 11 ideas para gestionar una posible disrupción económica causada por una IA más avanzada y extendida. Sus autores definen la AGI como sistemas capaces de realizar tareas cognitivas al menos al nivel de una persona promedio.
El impacto, plantean, podría ir desde una transición laboral conocida hasta una separación estructural entre el trabajo humano y el capital. Para comparar las alternativas, el ensayo usa 4 dimensiones:
- Bienestar y resiliencia.
- Agencia y voz.
- Viabilidad y eficiencia.
- Durabilidad frente a distintos futuros económicos.
La metodología combina revisión de literatura, encuestas y 51 evaluadores basados en agentes de IA. Los investigadores diseñaron sus personalidades a partir de datos de encuesta de 51 economistas reales.
El sitio presenta el resultado como un análisis asistido por IA, no como un programa adoptado por un gobierno ni como un consenso económico. El análisis plantea 3 escenarios:
- Ante una disrupción moderada, los autores plantean ampliar el seguro de desempleo, el crédito fiscal por ingreso del trabajo y los programas de capacitación dirigidos por empleadores.
- Si el desplazamiento laboral se amplía y los salarios se comprimen, proponen convertir gradualmente ese crédito fiscal en un impuesto negativo sobre la renta, activado por indicadores como desempleo prolongado y caída de los salarios medios.
- Si la participación del trabajo en la economía cae de forma sostenida mientras aumentan los rendimientos del capital, proponen un respaldo de capital básico universal para conservar una participación económica más amplia.
Son escenarios y opciones de análisis, no medidas aprobadas. El ensayo concluye que ninguna intervención resolvería por sí sola todos los efectos de una transición hacia la AGI y que las decisiones deberían vincularse con señales económicas observables.
Los laboratorios aún no tienen un estándar común
El 15 de septiembre, Chris Lehane, responsable de política global de OpenAI, confirmó que la empresa llevaba varias semanas conversando con Anthropic y Google DeepMind sobre coordinación en seguridad. Lehane sostuvo que las compañías no necesitan una exención antimonopolio para hablar de ese tema.
La coordinación entre competidores plantea cómo separar las medidas de seguridad de cualquier acuerdo que limite la competencia. Las conversaciones retoman una propuesta que Hassabis planteó en julio: crear un organismo estadounidense de estándares, con un modelo parecido al de la Financial Industry Regulatory Authority.
El organismo evaluaría los modelos más avanzados antes de su despliegue y coordinaría una desaceleración de la industria si aparecen riesgos graves. El llamado de Dario Amodei a ralentizar la evolución de los modelos de frontera recibió el respaldo público de Sam Altman y dio nuevo impulso a la discusión.
El DMI y ese posible organismo no son la misma iniciativa. El instituto publica ensayos, investigación y debate público. Si se concreta, el organismo tendría que definir pruebas, salvaguardas y mecanismos de supervisión comunes.
Los laboratorios han confirmado conversaciones, pero todavía no han anunciado una estructura final ni un estándar vinculante. El lanzamiento deja 2 planos relacionados, pero distintos: el DMI ya tiene una agenda pública y primeros ensayos, mientras la coordinación industrial sigue sin reglas comunes anunciadas.
El DMI busca ampliar quién participa en la discusión sobre el desarrollo y despliegue de la AGI. La coordinación entre laboratorios todavía debe resolver si sus competidores pueden acordar criterios mínimos de seguridad sin limitar la competencia.
