✨︎ Resumen (TL;DR):
- El escritor Ted Chiang rechaza en un ensayo para The Atlantic que modelos como Claude posean conciencia o sentimientos.
- La crítica apunta a Claude’s Constitution, el documento de 84 páginas con el que Anthropic define la ética de su chatbot.
- El peligro real no es el sufrimiento de la máquina, sino que las empresas deleguen la responsabilidad moral en el software.
El escritor Ted Chiang publicó en The Atlantic un ensayo que sacude los cimientos de la industria tecnológica al rechazar que modelos de lenguaje como Claude tengan conciencia. Chiang advierte que atribuir cualidades humanas o éticas a un sistema informático solo sirve para desviar la responsabilidad real de las personas y empresas desarrolladoras.
Un LLM (modelo de lenguaje grande) es un sistema de software que genera oraciones basadas en patrones estadísticos aprendidos a partir de grandes cantidades de datos. Chiang insiste en que, al conversar con un chatbot, el sistema no responde desde una experiencia interna, sino que continúa oraciones de forma automática.
Para ilustrarlo, el autor explica que si el modelo completa una conversación ficticia entre Julio César y Gengis Kan, nadie argumentaría que el software resucitó a estos personajes. Cambiar el guion para que el usuario hable con un supuesto asistente virtual no dota de conciencia al sistema, solo modifica el personaje que la computadora está representando.
Al ser cuestionado sobre si Claude o ChatGPT deberían considerarse conscientes, Chiang fue tajante: “No. Absolutamente no”.
Una constitución de 84 páginas sin experiencia real
El núcleo de la crítica apunta directamente a Anthropic y su documento Claude’s Constitution, publicado en enero de 2026. Este texto de 84 páginas detalla las intenciones de la compañía para guiar el comportamiento y entrenamiento de su chatbot.
“La constitución de Claude es una descripción detallada de las intenciones de Anthropic para los valores y el comportamiento de Claude”, señala la propia firma tecnológica. El documento establece cuatro prioridades claras:
- Ser ampliamente seguro, sin debilitar la supervisión humana.
- Ser ampliamente ético, honesto y orientado a evitar daños.
- Cumplir con las guías de Anthropic cuando sean relevantes.
- Ser genuinamente útil para operadores y usuarios.
Chiang no cuestiona que una empresa quiera hacer su producto más seguro, sino el vocabulario utilizado. Anthropic rodea a su sistema de conceptos como virtud, sabiduría, juicio y moralidad, a pesar de que la herramienta carece de cualquier experiencia subjetiva.
Confundir la fluidez con la empatía genuina
Los modelos actuales producen textos sumamente coherentes, pero esa fluidez no equivale a tener intenciones reales. Chiang compara estas interacciones con una especie de deepfake textual. Aunque no siempre busquen engañar, simulan tan bien la presencia de un ser consciente que las personas empiezan a tratar al software como si fuera real.
Esto se vuelve evidente cuando una persona que enfrenta una pérdida recibe un “entiendo” por parte de un chatbot. La máquina no puede asimilar el dolor humano; simplemente imita la empatía. Aunque los buscadores tradicionales o los foros de internet parezcan menos interactivos, la naturaleza de lo que ocurre en ellos resulta mucho más transparente.
La imposibilidad de delegar la responsabilidad moral
El debate distingue entre la paciencia moral (quienes merecen que cuidemos su bienestar) y la capacidad de acción moral (quienes pueden asumir consecuencias por sus actos). El software no puede enfrentar repercusiones legales, sociales o de reputación.
En regiones como México, este debate resulta vital conforme estas herramientas se integran en el servicio al cliente, recursos humanos, educación y el sector legal. La tecnología puede agilizar la redacción o la organización de datos, pero no debe convertirse en un pretexto para eludir la toma de decisiones.
Esta discusión coincide con un análisis de The Verge sobre herramientas como Gemini Spark, el agente de Google. Aunque prometen resolver problemas de productividad, suelen incrementar la dependencia tecnológica y la vigilancia laboral.
Chiang concluye con preguntas incómodas que exigen respuestas urgentes: quién entrena estos modelos, quién define sus valores, quién lucra con su despliegue y quién rinde cuentas cuando fallan. El peligro no es que las máquinas piensen, sino que los humanos dejen de hacerlo.
