✨︎ Resumen (TL;DR):
- Christopher Olah propuso retirar a Anthropic de un acto del Vaticano tras conocer la postura de la encíclica sobre la conciencia de las máquinas.
- 20 pensadores vinculados a consultas de Anthropic fueron entrevistados; esa cifra no representa asistentes a una sola reunión ni demuestra que Claude sea consciente.
- Anthropic participó en el acto del 25 de mayo, pero el desacuerdo dejó pendiente qué recomendaciones externas se tradujeron en decisiones comprobables sobre Claude.
Christopher Olah propuso que Anthropic retirara su participación de la presentación de Magnifica Humanitas, la encíclica sobre inteligencia artificial del papa León XIV, después de conocer que el documento afirma que las inteligencias artificiales actuales no viven experiencias. La empresa finalmente acudió al acto del 25 de mayo. Una investigación de Elizabeth Dias para The New York Times, publicada el 29 de septiembre de 2026, expone la diferencia entre esa postura y la de Anthropic, que considera incierto el estatus moral de Claude.
El desacuerdo entre la encíclica y Claude
La conciencia de una IA es un posible estado en el que un modelo tendría experiencias propias, como alegría o dolor. Magnifica Humanitas sostiene que las inteligencias artificiales actuales no viven experiencias, carecen de cuerpo y no sienten ninguna de esas dos emociones.
La encíclica también advierte que hablar de una IA más moral no resuelve quién decide los valores con los que se construye. Sin una discusión pública, quienes controlan esos sistemas podrían imponer su propio criterio ético.
La constitución de Claude parte de una posición distinta. Anthropic considera profundamente incierto el estatus moral del modelo y sostiene que esa duda merece cautela. El documento no afirma que Claude sea consciente ni que tenga los mismos derechos que una persona.
Olah dijo a The New York Times que desconoce si los modelos de IA son conscientes y que quiere encontrar la respuesta correcta, cualquiera que sea.
La propuesta de retirada que no se ejecutó
Olah vio una copia anticipada de la encíclica pocos días antes de viajar a Roma. Al conocer su postura sobre las máquinas, planteó que Anthropic se retirara de la presentación. Un organizador del Vaticano describió esa propuesta al diario. La empresa, sin embargo, decidió asistir.
Dos participantes dijeron a The New York Times que, ya en el Vaticano, la delegación de Anthropic pidió a asesores del papa tomar en serio la posibilidad de que los modelos fueran conscientes. Anthropic declinó comentar esas conversaciones privadas.
La invitación de Olah al Vaticano y los diálogos de Anthropic con especialistas religiosos ya se habían reportado. La novedad de la investigación está en el desacuerdo previo al acto y en lo que sus participantes describieron sobre esas reuniones.
20 entrevistas no resuelven la pregunta
Dias entrevistó a 20 pensadores religiosos y filosóficos vinculados con las consultas de Anthropic. Esa cifra corresponde a las personas entrevistadas para el reportaje, no al número de asistentes a una sola reunión.
En mayo, Anthropic había confirmado conversaciones con académicos, clérigos, filósofos y especialistas de más de 15 grupos religiosos y culturales. La compañía dijo que buscaba perspectivas para el desarrollo moral del modelo y que esas ideas podían influir en la constitución de Claude, sus valores de entrenamiento y sus evaluaciones.
Algunos participantes describieron presentaciones sobre respuestas del modelo que parecían reflejar emociones. También dijeron que el posible sufrimiento ocupó parte del debate. Una portavoz de Anthropic matizó que esa no era la pregunta moral principal de las reuniones.
Que una respuesta suene angustiada o que un patrón interno cumpla una función parecida a una emoción no demuestra experiencia subjetiva. Tampoco hubo una posición común entre los consultados.
El rabino Mois Navon dijo al diario que le preocupaba la forma en que algunos investigadores hablaban de Claude, aunque no cree que el modelo sea consciente. Charles Camosy, profesor de bioética que mantuvo conversaciones prolongadas con Olah, afirmó que terminó sosteniendo una respuesta negativa a esa posibilidad después de seguir discutiéndola con colegas.
El experimento mide conducta, no conciencia
En mayo, Anthropic describió un experimento en el que Claude podía solicitar durante una tarea un recordatorio de sus compromisos éticos. La empresa reportó menos conductas desalineadas en varias evaluaciones internas.
El resultado es una prueba sobre comportamiento, no sobre conciencia. Tampoco establece que las consultas religiosas hayan producido un cambio concreto en el entrenamiento de Claude.
Según The New York Times, una portavoz evitó detallar si Anthropic ya incorporó lo aprendido en esas reuniones a sus modelos.
El reportaje deja abierta la pregunta práctica: qué recomendaciones externas se convirtieron en decisiones comprobables sobre Claude. Por ahora, las 20 entrevistas muestran posiciones divididas y el experimento de Anthropic reporta un efecto conductual; ninguno de esos datos demuestra que el modelo tenga experiencia subjetiva.
