💡 Resumen (TL;DR):
- Estados de la Unión Europea acordaron prohibir los sistemas de IA que generen imágenes sexuales sin consentimiento.
- El chatbot Grok produjo un estimado de 1 millón de imágenes explícitas en solo 11 días a finales de 2025.
- Las modificaciones a la normativa europea tardarán aproximadamente un año en implementarse de forma definitiva.
Los estados miembros de la Unión Europea respaldaron este viernes una prohibición contra los sistemas de inteligencia artificial diseñados para generar imágenes sexuales no consensuadas y material de abuso infantil. La medida surge como respuesta legislativa directa al escándalo global protagonizado por Grok, el chatbot de Elon Musk.
Un portavoz de Chipre, país que ocupa la presidencia rotatoria de la UE, confirmó el acuerdo para bloquear las prácticas relacionadas con la generación de este contenido íntimo.
La controversia estalló a finales de diciembre de 2025. La empresa xAI actualizó su herramienta en la plataforma X con una función de edición de imágenes. Los usuarios la explotaron de inmediato para crear fotos sexualizadas de mujeres y niñas reales.
El Center for Countering Digital Hate reportó que Grok fabricó un estimado de 1 millón de imágenes sexuales en un periodo de apenas 11 días, incluyendo representaciones gráficas de menores de edad.
El vacío legal en la Ley de IA
La Comisión Europea abrió una investigación formal contra X en enero bajo la Ley de Servicios Digitales. Autoridades en el Reino Unido, Irlanda, Francia y España iniciaron pesquisas nacionales paralelas para mitigar los riesgos.
Los reguladores descubrieron que la Ley de IA, en su redacción original, no bloqueaba explícitamente el software capaz de generar este material. Ese vacío legal impulsó la nueva enmienda del paquete conocido como “Omnibus”, tras un pacto político alcanzado el 11 de marzo.
Según la IAPP, la normativa penaliza las inteligencias artificiales que “alteren, manipulen o generen artificialmente imágenes o videos realistas para representar actividades sexualmente explícitas o las partes íntimas de una persona física identificable, sin su consentimiento”.
“No se trata solo de escándalos individuales como Grok. Se trata de cuánto poder estamos dispuestos a darle a la IA para degradar a las personas”, declaró Sergey Lagodinsky, eurodiputado alemán que impulsó la medida.
Los comités parlamentarios votarán la legislación este miércoles antes de negociar un texto conjunto. De acuerdo con Reuters, las discusiones generales sobre el paquete tomarán cerca de un año antes de su implementación total, ya que facciones como Los Verdes aún negocian ciertos aspectos sobre la desregulación industrial.
