✨︎ Resumen (TL;DR):
- Christopher Olah admitió que las empresas tecnológicas no pueden controlar el desarrollo seguro de la IA por sí mismas.
- El Papa León XIV presentó la encíclica “Magnifica Humanitas” para exigir leyes estrictas y el desarme de esta tecnología.
- Olah advirtió que el desplazamiento laboral masivo por la automatización es una posibilidad real.
El cofundador de Anthropic, Christopher Olah, se presentó en el Vaticano junto al Papa León XIV para admitir que las empresas tecnológicas no pueden regular la inteligencia artificial de manera segura por sí mismas, solicitando la intervención urgente de gobiernos e instituciones externas.
Durante la presentación de la primera encíclica del pontífice, titulada “Magnifica Humanitas”, Olah reconoció los límites éticos de la industria. “Cada laboratorio de IA de frontera opera dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto”, declaró el directivo ante cardenales y funcionarios en el Aula del Sínodo.
Olah no eximió a su propia empresa, creadora del chatbot Claude, de estas tensiones. El ejecutivo afirmó que firmas como la suya enfrentan “fuertes presiones comerciales, geopolíticas y personales que pueden estar reñidas con los intereses más amplios de la sociedad”.
El Papa exige leyes y desarme digital
El documento papal, firmado el 15 de mayo, coincide con el 135 aniversario de la encíclica “Rerum Novarum” de 1891, la cual abordó los derechos laborales durante la Revolución Industrial. En este nuevo texto, el Papa León XIV hizo un llamado al “desarme” de la IA y criticó la concentración de poder y datos en pocas manos privadas.
“No basta con invocar la ética en abstracto; se requieren marcos legales sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad”, escribió el pontífice.
El fantasma del desempleo tecnológico
Otro de los puntos centrales abordados por Olah fue el impacto de la tecnología en el empleo. El cofundador de Anthropic advirtió sobre la “posibilidad real” de que esta tecnología desplace el trabajo humano a gran escala.
“Si eso sucede, apoyar a los desplazados será un imperativo moral de proporciones históricas”, sentenció Olah, en lo que representa uno de los reconocimientos más directos de la industria sobre el desplazamiento laboral.
Este encuentro en Roma consolida un acercamiento de semanas entre Anthropic y líderes religiosos. A finales de marzo, la empresa organizó una cumbre en su sede de San Francisco con unos 15 líderes cristianos para discutir el desarrollo moral de su chatbot Claude. Asimismo, el Vaticano anunció el pasado 16 de mayo la creación de una nueva comisión de inteligencia artificial para coordinar sus esfuerzos en esta materia.
