✨︎ Resumen (TL;DR):
- León XIV cuestionó a Jensen Huang por defender las leyes vigentes mientras Nvidia anunciaba nuevos controles para agentes de IA.
- Nvidia presentó el 28 de septiembre de 2026 su Open Agent Safety Platform; la empresa afirma que Sentry puede detener agentes en milisegundos.
- La disputa se concentra en quién define los límites de la IA y quién verifica que se cumplan, antes de la reunión tecnológica del 29 de septiembre en la Casa Blanca.
León XIV cuestionó a Jensen Huang, CEO de Nvidia, por defender las leyes vigentes mientras su empresa anunciaba nuevos controles para agentes de IA. Durante el vuelo de regreso de Francia a Roma, el 28 de septiembre de 2026, el papa pidió tomar en serio las advertencias de especialistas y planteó que gobiernos, empresas y organizaciones sociales revisen juntos los riesgos. Sus declaraciones llegaron un día antes de una reunión de ejecutivos tecnológicos en la Casa Blanca.
León XIV no evaluó la eficacia técnica de la propuesta durante la rueda de prensa. Dijo que “las preocupaciones planteadas por muchos expertos y especialistas en IA deben tomarse en serio”. También aclaró que no estaba en pánico y rechazó presentar esas alertas como noticias falsas.
Al referirse a Huang, el papa señaló una tensión concreta: Nvidia ofrece frenos para los agentes de IA, mientras Huang defiende que el gobierno no imponga nuevas restricciones. Por eso pidió que dirigentes políticos, empresas y organizaciones sociales examinen juntos los riesgos actuales y futuros.
Nvidia presenta controles, pero no una prueba independiente
Nvidia presentó el mismo 28 de septiembre de 2026 su Open Agent Safety Platform. Según la compañía, la propuesta incluye dos piezas centrales:
- OpenShell: limita los permisos de los agentes.
- Sentry: ofrece un diseño de referencia para supervisarlos desde una capa separada.
La propuesta incluye software disponible, aunque una parte todavía depende de infraestructura específica. Nvidia afirma que Sentry puede detener agentes en milisegundos. El anuncio no aporta una prueba independiente de esa eficacia, así que esa capacidad sigue siendo una afirmación de la empresa.
León XIV no evaluó ese desempeño técnico. Su objeción apuntó a la distancia entre ofrecer controles de seguridad desde la empresa y oponerse a nuevas obligaciones gubernamentales.
Huang reconoce riesgos y defiende las leyes actuales
En una entrevista con CBS News, Huang rechazó las predicciones de que la IA acabará con el mundo para 2030, pero aclaró que la preocupación de los especialistas “no es errónea”. También dijo que las empresas no deben entregar productos inseguros y sostuvo que las leyes vigentes pueden exigirles responsabilidades.
Su postura regulatoria es más específica que una negativa a cualquier intervención estatal: Huang quiere aplicar primero las normas actuales antes de crear otras.
En mayo, León XIV publicó la encíclica Magnifica Humanitas y pidió marcos jurídicos adecuados junto con vigilancia independiente para la IA. Ahí se concentra la diferencia entre ambos: quién define los límites y quién comprueba que se cumplan.
La reunión del 29 de septiembre llevará el debate a la Casa Blanca
Jensen Huang figuraba entre los ejecutivos que asistirían el 29 de septiembre a una reunión en la Casa Blanca con Donald Trump y Mike Johnson, presidente de la Cámara de Representantes. Johnson dijo que las conversaciones buscarían equilibrar innovación y supervisión.
El desacuerdo llega a esa reunión con una diferencia concreta: Huang propone aplicar las leyes actuales para exigir productos seguros, mientras León XIV pide marcos jurídicos adecuados y vigilancia independiente. El punto pendiente es quién fija las obligaciones y cómo se verifica su cumplimiento.
