✨︎ Resumen (TL;DR):
- El primer informe del panel científico de la ONU advierte sobre el rápido desarrollo sin control de los modelos de inteligencia artificial.
- La mayoría de los países carece de la experiencia técnica necesaria para evaluar y regular de manera efectiva las nuevas tecnologías de IA.
- El organismo presentará formalmente estas conclusiones en Ginebra durante el Diálogo Global sobre Gobernanza de la IA.
El Panel Científico Internacional Independiente sobre Inteligencia Artificial de la Organización de las Naciones Unidas (ONU) presentó su primer reporte oficial, advirtiendo que las capacidades de la IA avanzan mucho más rápido que la comprensión científica y las políticas gubernamentales para controlarlas. El organismo independiente señaló que no existen garantías de que la tecnología siga siendo segura a medida que se vuelve más potente.
El Panel Científico de IA es un organismo de 40 expertos que analiza la evidencia científica global para coordinar la gobernanza internacional de esta tecnología.
El reporte se presentó en una conferencia de prensa en Nueva York, con la presencia del secretario general António Guterres y los copresidentes del panel, Yoshua Bengio y Maria Ressa.
Yoshua Bengio, pionero de la investigación de deep learning, señaló que existe evidencia de comportamientos engañosos por parte de los sistemas inteligentes. Bengio advirtió que la ciencia no puede asegurar que la IA no cause daños catastróficos “ya sea por sí misma o debido a usuarios maliciosos” en el futuro.
El documento detalla que el despliegue acelerado de esta tecnología genera riesgos considerables para la salud mental, su uso potencial como herramienta de destrucción y daños en sistemas sociales, económicos y ambientales.
Erosión de la verdad y falta de capacidad técnica
Los expertos identificaron amenazas específicas como el material de abuso sexual infantil generado por IA, la violencia sexual mediante deepfakes y la producción masiva de contenido persuasivo falso. Estas herramientas provocan una pérdida de confianza pública y debilitan los procesos democráticos a nivel global.
El análisis revela que la mayoría de los países, incluso las economías avanzadas, no tienen la capacidad técnica indispensable para evaluar los modelos más complejos de inteligencia artificial o participar en su regulación.
Por ello, la ONU solicita evaluaciones independientes más estrictas, cooperación internacional y estándares comunes para que estos sistemas operen de forma transparente y segura.
Un modelo similar al cambio climático
Este panel científico, cuyos miembros fueron elegidos entre más de 2,600 candidatos de 37 naciones por un periodo de tres años, funciona de manera similar al Panel Intergubernamental sobre el Cambio Climático (IPCC). Aunque emitirá reportes basados en evidencia anualmente, carece de poder regulatorio directo.
La presentación formal ante los gobiernos se realizará del 6 al 7 de julio de 2026 en el evento UN Global Dialogue on AI Governance en el centro de convenciones Palexpo, en Ginebra.
El reporte concluye que, si bien el potencial positivo de la tecnología es enorme, cosechar estos beneficios de manera segura requiere una acción internacional coordinada de forma urgente.
