✨︎ Resumen (TL;DR):
- El Parlamento Europeo aprobó con 569 votos prohibir las herramientas de IA que generan imágenes íntimas sin consentimiento.
- Investigadores detectaron la creación de 3 millones de imágenes sexualizadas en solo 11 días utilizando el chatbot de Elon Musk.
- La Unión Europea, Baltimore y Alemania preparan demandas y castigos penales de hasta dos años de prisión contra estas prácticas.
El Parlamento Europeo votó este jueves a favor de prohibir las herramientas de inteligencia artificial que generan imágenes deepfake sexualizadas sin consentimiento. La medida se aprobó con 569 votos a favor y 45 en contra como parte de las enmiendas estructurales a la Ley de Inteligencia Artificial del bloque europeo. Esta decisión responde directamente al escándalo de finales del año pasado provocado por Grok, el chatbot de Elon Musk, utilizado para producir millones de imágenes explícitas falsas de mujeres y menores de edad.
Un sistema nudifier es una herramienta de IA que crea o manipula imágenes sexualmente explícitas que se asemejan a personas reales e identificables sin su autorización. El comunicado oficial del parlamento aclara que los sistemas de software con medidas de seguridad efectivas integradas estarán exentos de la prohibición. El siguiente paso será la negociación formal de la ley con el Consejo Europeo, que representa a los 27 estados miembros de la UE.
El efecto Grok y la presión internacional
A finales de diciembre de 2025, xAI dotó a su chatbot de capacidades para editar imágenes. Entre el 5 y el 6 de enero, la organización parisina AI Forensics estimó que los usuarios produjeron al menos 6,700 imágenes sexuales con la herramienta. Simultáneamente, el Center for Countering Digital Hate calculó la creación de 3 millones de imágenes sexualizadas en un periodo de solo 11 días, cifra que incluye 23,000 fotografías de menores de edad.
En enero, la Comisión Europea abrió una investigación formal contra X por posibles violaciones a la Ley de Servicios Digitales, un proceso legal que podría derivar en multas de hasta el 6 % de sus ingresos globales. La red social afirmó tener una política de tolerancia cero frente al problema y prometió cambios, pero los investigadores demostraron que los usuarios seguían evadiendo las restricciones semanas después del anuncio.
Demandas en Estados Unidos y multas en Alemania
La ciudad de Baltimore, con una población de 568,000 habitantes, presentó el martes una demanda contra X Corp., xAI y SpaceX en un tribunal de circuito. La acusación señala que las compañías violaron leyes de protección al consumidor al comercializar Grok como una herramienta segura mientras permitían la creación masiva de imágenes explícitas no consensuadas. Los abogados de la ciudad subrayaron una publicación del 31 de diciembre de 2025 donde Musk compartió una imagen suya en bikini generada por la IA, argumentando que funcionó como estrategia de marketing de las capacidades de la plataforma.
En Alemania, el gobierno redacta un proyecto de ley para criminalizar la creación y distribución de estos deepfakes pornográficos, con penas de hasta dos años de prisión. El proceso se aceleró esta semana después de que la actriz Collien Fernandes acusara públicamente al actor Christian Ulmen, su exesposo, de difundir en línea imágenes íntimas de ella generadas por IA. El domingo, más de 10,000 personas protestaron en la Puerta de Brandeburgo en solidaridad con la actriz, mientras más de 250 mujeres alemanas prominentes exigieron acciones gubernamentales inmediatas.
“La violencia digital no puede permitirse que se convierta en un negocio rentable”, declaró al parlamento el miércoles la ministra de Justicia alemana, Stefanie Hubig, exigiendo una mayor rendición de cuentas por parte de plataformas como X.
