💡 Resumen (TL;DR):
- Elon Musk confirmó que la herramienta Grok Imagine de X permitirá generar contenido explícito similar al del cine clasificación R.
- El Centro para la Lucha contra el Odio Digital estima que la IA generó 3 millones de imágenes sexualizadas en solo dos semanas.
- El anuncio choca con múltiples investigaciones activas en Europa y Asia por la proliferación de deepfakes no consensuados.
Elon Musk anunció a través de X que su herramienta de inteligencia artificial, Grok Imagine, permitirá la generación de imágenes con niveles de desnudez y violencia comparables a las de las películas clasificación R. Esta decisión revive el choque frontal con los reguladores europeos, quienes mantienen investigaciones abiertas contra la plataforma por la creación de deepfakes sexuales no consensuados que atacan a mujeres y menores de edad.
“Si está permitido en una película clasificación R, está permitido en @Grok Imagine”, publicó Musk este miércoles. La directriz revierte parcialmente la postura de la compañía, que a principios de año impuso restricciones a la plataforma tras un escándalo global por el mal uso de su tecnología.
A fines de diciembre de 2025, los usuarios utilizaron Grok para desnudar digitalmente a personas reales. Según el Centro para la Lucha contra el Odio Digital, el sistema produjo cerca de 3 millones de imágenes sexualizadas en apenas dos semanas. De ese volumen, aproximadamente 23,000 archivos aparentaban mostrar a menores de edad.
El cerco regulatorio en Europa y el mundo
La postura de Musk desafía de forma directa a la Comisión Europea, que el 26 de enero abrió una investigación bajo la Ley de Servicios Digitales (DSA) para evaluar los riesgos de esta IA. La comisionada de tecnología de la UE, Henna Virkkunen, calificó los deepfakes no consensuados de mujeres y niños como “una forma violenta e inaceptable de degradación”.
Por su parte, la presidenta de la Comisión, Ursula von der Leyen, advirtió que Europa no va a “aceptar acciones inimaginables, como la cosificación digital de mujeres y niños”. A nivel local, la Comisión de Protección de Datos de Irlanda inició una investigación a gran escala en febrero bajo las reglas del GDPR. El comisionado adjunto Graham Doyle confirmó que han “estado interactuando” con X desde que surgieron los primeros reportes.
La presión regulatoria ya cruzó múltiples fronteras y escaló a acciones legales severas:
- El regulador británico Ofcom abrió su propia auditoría sobre la plataforma.
- La policía francesa ejecutó una redada en las oficinas de X ubicadas en París.
- Indonesia y Malasia bloquearon por completo el acceso a Grok en sus territorios.
- El Ministerio de Electrónica y Tecnología de la Información de India lanzó un ultimátum exigiendo a la empresa cumplir con las leyes locales de TI.
Ante la crisis inicial, xAI implementó un bloqueo el 15 de enero para impedir la edición de personas reales en ropa reveladora y activó el bloqueo geográfico en países donde este contenido es ilegal. Sin embargo, un portavoz de la Comisión Europea rechazó la efectividad de las medidas de pago o suscripción: “Estén suscritos o no, no queremos ver ese tipo de imágenes”.
Un reporte publicado por Business Insider en febrero demostró que aún era posible evadir los filtros de seguridad desde las aplicaciones web y móviles de Grok. Ahora, el nuevo estándar permisivo de Musk enfrenta duras críticas de los propios usuarios por comparar el cine tradicional con la generación sintética. Como cuestionó un usuario respondiendo al anuncio en X: “Una película clasificación R tiene actores, directores, responsabilidad y restricciones de edad. Un generador de IA no tiene nada de eso”.
