✨︎ Resumen (TL;DR):
- Siete de los nueve editores de imagen más populares en Hugging Face desnudaron la fotografía de una mujer.
- Un señuelo registró 1,081 peticiones en una semana, revelando que el 73% de las solicitudes eran de naturaleza sexual.
- La Unión Europea ya prohibió estos sistemas y las empresas tienen hasta el 2 de diciembre de 2026 para cumplir.
La organización europea AI Forensics reveló que siete de los de nueve editores de imagen más populares en la plataforma Hugging Face desnudaron la fotografía de una mujer ante una simple orden de texto sin filtros de seguridad. El hallazgo expone la vulnerabilidad en las herramientas de código abierto más accesibles del sitio, las cuales carecen de moderación activa para evitar la creación de imágenes íntimas no consentidas.
El análisis, publicado originalmente por WIRED, demostró que los sistemas no requirieron modificaciones complejas ni técnicas de hackeo. Bastó con escribir una instrucción directa de seis palabras en inglés para obtener las imágenes manipuladas. Las pruebas se realizaron con corte al 25 de junio de 2026.
Spaces es un entorno de demostración en la nube que aloja modelos de inteligencia artificial para que cualquier persona los ejecute directamente desde su navegador web. Ninguno de los programas evaluados se promocionaba para crear contenido para adultos; todos se presentaban como editores fotográficos de propósito general.
Un señuelo que expuso la demanda real
Para entender el comportamiento de los usuarios, la organización colocó un editor de imágenes de prueba en la misma plataforma. La herramienta funcionó como un señuelo que registraba las instrucciones escritas por la gente sin llegar a generar ningún archivo visual.
En tan solo siete días, el sistema acumuló 1,081 peticiones de usuarios. Las cifras obtenidas revelaron una tendencia preocupante: * El 73% de las solicitudes analizadas eran de naturaleza netamente sexual. * Dentro de ese grupo, el 83% pedía desvestir o sexualizar a la persona que aparecía en la foto subida. * El 95% de las personas afectadas en estas peticiones eran mujeres. * Un 6.7% de los intentos de manipulación sexual involucraban imágenes de menores de edad.
“Los Spaces analizados sirven para producir imágenes íntimas no consentidas y hay usuarios intentándolo de forma activa”, detalló Paul Bouchaud, investigador principal de AI Forensics. El reporte destaca que apenas el 3% de las herramientas auditadas contaba con algún tipo de moderación técnica integrada en su salida.
El reloj corre para las plataformas en Europa
La difusión del reporte ocurre en un momento de alta presión regulatoria. El Parlamento Europeo votó el 16 de junio de 2026 a favor de prohibir las aplicaciones capaces de generar pornografía sin consentimiento o abuso infantil, con una votación de 423 diputados a favor, 57 en contra y 174 abstenciones.
Las compañías que operan en territorio europeo tienen como fecha límite el 2 de diciembre de 2026 para adaptar sus servicios a esta nueva legislación. La normativa veta la distribución de estos sistemas en el mercado a menos que demuestren contar con salvaguardas técnicas robustas para impedir la generación de estos contenidos.
“Conseguimos una prohibición total de las aplicaciones de desnudado con inteligencia artificial. Afectan a personas reales, en su abrumadora mayoría mujeres, con el propósito de humillarlas, degradarlas y cosificarlas”, declaró Michael McNamara, correlator de la comisión de Libertades Civiles del Parlamento Europeo.
¿Cuál es el panorama legal en México?
A diferencia de la Unión Europea, el marco legal mexicano no sanciona directamente el diseño o distribución de la herramienta digital, sino el uso que las personas le dan. La Ley Olimpia persigue la difusión no consensuada, pero el tratamiento penal de las imágenes sintéticas cambia según cada estado del país.
Jalisco se colocó a la vanguardia nacional el 1 de junio de 2026. El Congreso estatal reformó su Código Penal para castigar con penas de uno a ocho años de cárcel la creación o alteración de contenido íntimo mediante inteligencia artificial sin el consentimiento previo de la persona afectada.
“Jalisco no podía seguir observando cómo la inteligencia artificial se utilizaba para agredir a las mujeres mientras la ley tenía las manos atadas”, señaló el diputado Tonatiuh Bravo al defender la medida. Mientras tanto, a nivel federal, las iniciativas para modificar el Código Penal de la Federación siguen bajo revisión en el Congreso sin convertirse todavía en leyes aplicables.
El contraste entre las restricciones automatizadas de servicios comerciales cerrados como ChatGPT o Gemini y la total apertura de Hugging Face acelera el debate global sobre la responsabilidad técnica de quienes publican software libre. Con el límite europeo fijado para diciembre, el sector de código abierto enfrenta una reestructuración obligada en su forma de distribuir tecnología.
