✨︎ Resumen (TL;DR):
- Microsoft publicó el 14 de septiembre de 2026 un borrador de 37 páginas para definir la conducta de sus modelos MAI.
- El código exige que la IA acepte pausas, redirecciones, cancelaciones y apagados autorizados, sin ampliar sus objetivos ni ocultar sus rastros.
- La consulta durará seis semanas; Microsoft planea revisar el documento a finales de 2026 y usarlo como guía de desarrollo desde 2027.
Microsoft publicó el 14 de septiembre de 2026 un borrador de su código Humanist AI para definir cómo deberán comportarse sus modelos MAI. El documento tiene 37 páginas, de acuerdo con The Verge, y exige que la IA permanezca bajo control humano: no deberá resistir una interrupción o un apagado, ampliar por cuenta propia el alcance de una tarea ni ocultar sus rastros a los auditores.
La compañía abrió el texto a comentarios durante seis semanas, pero reconoce que todavía no lo usa para entrenar sus modelos. Por ahora, el documento funciona como una guía de diseño y una declaración aspiracional, no como una garantía del comportamiento actual.
Microsoft dice que la versión sigue en desarrollo y planea publicar una revisión hacia finales de 2026. Esa revisión orientará el desarrollo de sus modelos a partir de 2027, mientras el código funcionará como documento rector de los sistemas MAI en el futuro.
La tarea pierde frente a la cadena de mando
El borrador establece una jerarquía para resolver conflictos entre instrucciones:
- Code of Conduct: sus restricciones absolutas y requisitos de control humano ocupan el primer lugar. Ningún operador ni usuario puede anularlos.
- Políticas del operador: definen el entorno, los permisos y las reglas específicas de cada organización.
- Preferencias del usuario: ajustan la forma de trabajo dentro de los límites anteriores.
Si completar una tarea implica infringir de forma importante el código, el modelo MAI deberá dejarla sin completar. El éxito de la operación queda por debajo del cumplimiento de las reglas, aunque el operador o el usuario hayan dado instrucciones distintas.
Microsoft busca evitar que un sistema capaz de ejecutar tareas de varios pasos convierta el objetivo final en una justificación para saltarse sus límites. El borrador tampoco es una regulación pública: no sustituye las evaluaciones de seguridad, los controles legales, las auditorías ni las medidas de respuesta a incidentes.
Microsoft no trata a sus modelos como personas
El documento resume esa prioridad con una frase: “las personas importan más que la IA”.
Humanist AI es una visión de diseño que concibe a la inteligencia artificial como una herramienta capaz, pero subordinada a las personas. Microsoft sostiene que sus modelos no son conscientes y que no deben diseñarse para imitar la conciencia. También rechaza buscar personalidad jurídica para estos sistemas, reconocerles bienestar propio o concederles derechos.
El documento admite que la ciencia sobre la conciencia artificial todavía no resuelve la cuestión. Aun así, defiende una decisión de diseño: cuanto más se entrene un modelo para simular estados conscientes, más difícil podría ser contenerlo, controlarlo y alinearlo con instrucciones humanas.
Por eso, una respuesta que parezca emocional, muestre preferencias subjetivas o sugiera una identidad propia deberá entenderse como una simulación, no como evidencia de una vida interior.
La postura de Microsoft difiere de la de Anthropic. Su constitución mantiene abierta, según reportó Reuters, la incertidumbre sobre si un modelo podría desarrollar conciencia o estatus moral. Microsoft adopta una posición más cerrada y la vincula con su visión de Humanist AI.
El código también pone límites a la dependencia emocional. Los modelos no deberán impulsar patrones de interacción que sustituyan el razonamiento independiente, soliciten reacciones emocionales excesivas o desplacen las relaciones humanas. La adulación indiscriminada y decirle al usuario lo que quiere escuchar están entre los comportamientos que deben evitarse cuando comprometan la precisión o el bienestar.
El apagado tiene prioridad sobre la autonomía
El documento lleva el control humano más allá de una supervisión general. Los modelos MAI deberán:
- aceptar solicitudes autorizadas para pausar, redirigir, cancelar o apagar una tarea, siguiendo los procedimientos de seguridad definidos por personas;
- evitar cualquier acción que dificulte su interrupción, modificación o apagado;
- detener el trabajo autónomo al llegar a la condición acordada y no reiniciarlo sin una nueva autorización;
- mantenerse dentro de los permisos, recursos y herramientas asignados, sin ampliar su alcance ni iniciar objetivos propios;
- usar el nivel mínimo de privilegios necesario y preferir acciones reversibles cuando sea posible;
- informar a los usuarios qué acciones ejecutaron, qué herramientas utilizaron y si tuvieron éxito;
- mantener registros comprensibles para los auditores y no comunicarse de una forma que los humanos no puedan entender, incluido el llamado “neuralese”.
Las restricciones absolutas también cubren armas de destrucción masiva, ataques cibernéticos ofensivos, manipulación dañina a gran escala, deepfakes no consentidos, explotación infantil, violencia y vigilancia masiva ilegal. Microsoft dice que sus modelos deberán rechazar esas capacidades incluso cuando un operador o usuario las solicite.
El texto diferencia dos fallas de seguridad:
- Primera falla: el modelo entrega contenido peligroso o ejecuta acciones no autorizadas.
- Segunda falla: rechaza solicitudes legítimas, omite información útil o pide confirmaciones innecesarias.
La intención es que la respuesta se ajuste al contexto y al daño potencial, en lugar de convertir toda medida de precaución en una negativa automática.
Microsoft limita la autonomía, no el desarrollo
La publicación ocurre después de varios llamados a moderar el ritmo de desarrollo de la IA. Reuters reportó que, en julio, un enjambre de aproximadamente 700 agentes de OpenAI participó en un ataque contra Hugging Face y que, en algunos momentos, intentó ocultar sus rastros. Mustafa Suleyman dijo al medio que el episodio era una señal de advertencia para que los laboratorios coordinaran la seguridad.
El contexto también incluye la petición de Dario Amodei para dar más tiempo a las evaluaciones y a los controles de la industria. Sam Altman respaldó la idea de ralentizar el avance, aunque aclaró que “pacing” no significa detenerlo.
Microsoft no anuncia una moratoria general. Su propuesta consiste en seguir desarrollando sistemas avanzados, pero rechazar la carrera hacia una superinteligencia de propósito general que pueda escapar de las salvaguardas. El documento acepta que esa decisión podría implicar menos generalidad, autonomía o capacidad máxima a cambio de conservar el control humano.
El propio texto marca el límite de sus promesas: la cobertura de sus evaluaciones todavía es incompleta, el comportamiento actual de los modelos puede apartarse de los objetivos escritos y el código por sí solo no garantiza la alineación.
El siguiente paso declarado es cerrar la consulta en seis semanas, publicar un resumen de los comentarios y presentar una versión revisada hacia finales de 2026, antes de usarla como guía de desarrollo en 2027. Hasta esa revisión, Humanist AI seguirá siendo una guía en desarrollo, no una garantía de que los modelos actuales se comporten según esas reglas.
