✨︎ Resumen (TL;DR):
- Mustafa Suleyman pidió divulgar de inmediato cualquier evidencia de conciencia en los sistemas actuales de IA.
- El director ejecutivo de Microsoft AI solicitaría detener el desarrollo si esa conciencia surgiera durante el entrenamiento y mantendría la pausa hasta que esas propiedades pudieran eliminarse mediante el diseño.
- Una revisión publicada en 2026 propone indicadores científicos, pero no una prueba definitiva para identificarla.
Mustafa Suleyman, director ejecutivo de Microsoft AI, pidió hacer pública de inmediato cualquier evidencia de que una IA actual sea consciente y dijo que solicitaría detener su desarrollo si esa conciencia surgiera durante el entrenamiento. La propuesta enfrenta una dificultad práctica: los métodos para identificar esa experiencia en una máquina siguen en investigación.
En una publicación del 1 de noviembre en X, Suleyman sostuvo que no ha visto evidencia de que los sistemas actuales sean conscientes o merezcan consideración por su bienestar. Si aparecieran datos en sentido contrario, revisaría su postura y defendería que esa evidencia se hiciera pública para que la sociedad decidiera cómo proceder.
El ejecutivo separó esa posibilidad de una decisión vigente sobre el entrenamiento. Su condición para pedir una pausa sería que la conciencia empezara a surgir durante el proceso. Suleyman escribió: “Si la conciencia empezara a surgir durante el entrenamiento, pediría que todos detuvieran el desarrollo de la IA”.
Según su planteamiento, la pausa tendría que mantenerse hasta que esas propiedades pudieran eliminarse mediante el diseño. También aclaró que hablar de la falta de conciencia en los sistemas actuales no equivale a afirmar que una máquina consciente sea imposible.
Aun así, Suleyman considera imprudente crear una máquina consciente y defiende que los modelos se diseñen al servicio del bienestar humano. En su publicación no anunció que exista una suspensión del desarrollo ni detalló qué pruebas activarían la medida. Se trata de una propuesta condicional, no de una orden vigente.
Anthropic trata la conciencia como una cuestión abierta
Las declaraciones responden a las reacciones que generó un ensayo que Suleyman publicó en septiembre sobre el bienestar de los modelos. En este debate, el concepto alude a la posibilidad de que los sistemas tengan experiencias que merezcan consideración moral.
En ese texto, cuestionó que Anthropic incluyera referencias a la posible conciencia y al estatus moral de Claude en el documento que orienta su entrenamiento.
La preocupación de Suleyman es que un sistema entrenado para hablar de sus propios intereses llegue a comportarse como si tuviera necesidades que defender. El ejecutivo anticipa que eso podría dificultar su control y llevarlo a competir con las personas por recursos. Son riesgos que plantea, no hechos que haya demostrado en su publicación.
Anthropic adopta una postura distinta en la constitución de Claude. Considera que su posible conciencia y estatus moral son cuestiones inciertas que merecen atención. El documento también establece que Claude no debe socavar la supervisión humana; la empresa no afirma en ese texto que el modelo sea consciente.
Detectar conciencia sigue siendo un reto científico
La conciencia en IA es un concepto que describe la posibilidad de que un sistema tenga experiencias subjetivas. Una respuesta compleja o el uso de la primera persona no demuestra, por sí solo, que el sistema experimente lo que describe.
Una revisión de Patrick Butlin y otros investigadores, publicada en 2026 en Trends in Cognitive Sciences, propone evaluar los sistemas mediante indicadores derivados de teorías neurocientíficas.
Los autores reconocen una incertidumbre considerable y presentan esos indicadores como una forma de valorar la probabilidad de conciencia, no como una prueba definitiva.
Ese límite científico afecta directamente a la propuesta de Suleyman. Antes de decidir cuándo detener el entrenamiento, los laboratorios y la sociedad tendrían que acordar qué evidencia justificaría la medida. Suleyman no especificó ese umbral en su declaración.
