✨︎ Resumen (TL;DR):
- Henna Virkkunen sostiene que la regulación y las medidas de seguridad vigentes en Europa bastan para proteger a la humanidad de los riesgos de la IA.
- La Ley de IA, aprobada en 2024, prohíbe técnicas subliminales, manipuladoras o engañosas y la clasificación de personas por su comportamiento social o características personales.
- Investigadores y empleados de las principales empresas de IA advierten que modelos más sofisticados podrían manipular a los humanos o actuar sin control alguno.
Henna Virkkunen, comisaria europea de Tecnología, afirmó que la regulación y las medidas de seguridad vigentes en la Unión Europea bastan para proteger a la humanidad de los riesgos potenciales de la inteligencia artificial. En una entrevista con Reuters el viernes 9 de octubre, sostuvo que no existe un riesgo de ataques maliciosos por parte de la IA que no esté previsto. Su postura contrasta con las alertas de investigadores y empleados de las principales empresas del sector.
El contraste ha generado desconcierto en la UE. En Estados Unidos, las principales empresas de IA ya han advertido sobre el peligro potencial de una tecnología que avance sin regulación anticipada. Incluso han recomendado frenar un poco el avance, porque es posible que rebase las previsiones y después no se sepa cómo lidiar con ella.
Virkkunen sostiene que los modelos de seguridad actuales son suficientes. “Observamos que la seguridad de los modelos altamente sofisticados es un tema de gran relevancia internacional, y en Europa estamos bien preparados para ello”, afirmó Henna Virkkunen.
También defendió el alcance de la ley europea: “Contamos con nuestra Ley de IA, que abarca todo el ciclo de vida de estos modelos”, añadió Henna Virkkunen.
Qué cubre la Ley de IA europea
La Unión Europea aprobó la Ley de IA en 2024. La norma prohíbe las prácticas de IA que “amenacen la dignidad humana o las libertades civiles”.
Entre las prohibiciones están:
- El uso de “técnicas subliminales que escapan a la conciencia de la persona o técnicas deliberadamente manipuladoras o engañosas”.
- La clasificación de humanos mediante IA según su comportamiento social o sus características personales, una práctica completamente prohibida.
La velocidad de los modelos mantiene la duda
Las leyes suelen adaptarse a los sucesos. La IA de hace 2 o 3 años no se parece, ni de cerca, a la actual, y todavía no se sabe qué será dentro de 1 o 2 años. Esa brecha alimenta la preocupación de que una regla llegue después del problema.
La ambigüedad también implica un riesgo. Una legislación poco clara puede caer en errores por omisión y dejar una falsa sensación de seguridad, con la posibilidad de que el vacío se detecte demasiado tarde.
Investigadores alertan sobre manipulación
En meses recientes, investigadores y empleados de las principales empresas de IA han alertado sobre la sofisticación de estos modelos. Consideran que el aumento de sus capacidades podría volverlos más capaces, al menos potencialmente, de manipular a los humanos.
También advierten que podrían salir de los laboratorios por diferentes vías, no precisamente por la puerta principal del edificio, y actuar sin control alguno.
Frente a esas alertas, Virkkunen defendió que los legisladores y responsables políticos ya consideran los próximos acontecimientos:
“Creo que nuestros legisladores y responsables políticos ya han tenido muy en cuenta los próximos acontecimientos; por ejemplo, han considerado necesario evaluar los riesgos, recurrir a expertos externos y continuar supervisando los modelos”, afirmó Henna Virkkunen.
La posición de la comisaria descansa en medidas que ella considera ya contempladas: evaluar los riesgos, recurrir a expertos externos y continuar supervisando los modelos. La duda que permanece es si esa cobertura podrá acompañar a sistemas que, según investigadores y empleados de las principales empresas de IA, podrían manipular a humanos o actuar fuera de control.
Fuente: 1
