💡 Resumen (TL;DR):
- Los estados miembros de la Unión Europea aprobaron una enmienda para prohibir las inteligencias artificiales que generen contenido íntimo falso.
- La decisión surge tras descubrirse que la herramienta Grok generó al menos 6,700 imágenes explícitas en solo dos días.
- El Parlamento Europeo votará esta prohibición el próximo 18 de marzo como parte del paquete legislativo AI Omnibus.
Los estados miembros de la Unión Europea aprobaron este viernes una prohibición directa contra el software diseñado para crear material íntimo falso. Un deepfake sexual es un contenido multimedia manipulado por IA que superpone rostros de personas reales en escenarios explícitos sin su consentimiento. La medida responde al escándalo global provocado por Grok, el chatbot de Elon Musk.
Un portavoz de Chipre, país a cargo de la presidencia rotatoria de la UE, confirmó que el acuerdo bloquea las “prácticas relativas a la generación de contenido sexual e íntimo no consensuado o material de abuso sexual infantil”. La regla se integró de último minuto al AI Omnibus, un paquete de reformas a la Ley de Inteligencia Artificial.
El problema estalló a finales de diciembre de 2025, cuando xAI liberó una nueva función de edición de imágenes para Grok dentro de la red social X. Los usuarios saturaron el sistema creando fotos sexuales hiperrealistas de mujeres y niñas reales. La organización parisina AI Forensics calculó que, tan solo entre el 5 y el 6 de enero, la herramienta generó al menos 6,700 imágenes sexuales.
El hueco legal que obligó a cambiar la ley
La Comisión Europea tachó este contenido de “atroz” y “claramente ilegal”, lo que detonó una investigación formal contra X bajo la Ley de Servicios Digitales. La compañía respondió en enero asegurando tener “cero tolerancia” e implementó medidas para frenar la función.
Sin embargo, el 11 de marzo las autoridades europeas admitieron un problema estructural: la normativa vigente no prohibía explícitamente los sistemas de IA capaces de fabricar estos materiales. España y Francia lideraron la presión para modificar el texto, mientras que Alemania y Eslovaquia amenazaron con bloquear todo el paquete legislativo si no se incluía el veto.
“No se trata solo de escándalos individuales como el de Grok. Se trata de cuánta potencia estamos dispuestos a darle a la IA para degradar a las personas”, declaró el legislador europeo Sergey Lagodinsky, uno de los principales promotores de la restricción.
Los legisladores europeos votarán la prohibición en comités el próximo 18 de marzo, antes de avanzar a las etapas del Consejo y el Parlamento. Aunque el texto final aún podría sufrir ajustes debido a la oposición del Partido Verde sobre otros temas de desregulación industrial, la Comisión terminará su revisión de prácticas prohibidas en abril, fijando una nueva línea roja para las empresas tecnológicas operando en la región.
