✨︎ Resumen (TL;DR):
- Un tribunal de Ámsterdam ordenó a xAI suspender la generación de imágenes íntimas no consensuadas en Países Bajos.
- La empresa de Elon Musk enfrenta multas de 100,000 euros diarios si incumple la medida legal.
- La decisión marca uno de los primeros precedentes globales en responsabilizar directamente a una empresa de IA por sus herramientas.
Un tribunal de distrito de Ámsterdam ordenó este jueves a xAI y su chatbot Grok detener la generación y distribución de imágenes sexuales no consensuadas en los Países Bajos. La resolución impone multas de 100,000 euros diarios en caso de incumplimiento y exige a la red social X bloquear la herramienta en el país hasta aplicar las restricciones necesarias.
El caso fue impulsado por la organización sin fines de lucro neerlandesa Offlimits, enfocada en combatir el abuso sexual en internet, junto con el grupo de apoyo a víctimas Fonds Slachtofferhulp.
Durante las audiencias previas, los abogados de xAI argumentaron que la compañía no debía ser castigada por las acciones de usuarios malintencionados. Señalaron que en enero limitaron el generador de imágenes a suscriptores de pago y bloquearon la edición de fotografías de personas reales con ropa reveladora.
El tribunal rechazó tajantemente esta defensa y falló a favor de las víctimas. “La carga recae en la empresa” para garantizar que sus herramientas no se utilicen en la creación y distribución de contenido sexual no consensuado, declaró el director de Offlimits, Robbert Hoving, tras publicarse la sentencia.
Cerco regulatorio global contra xAI
La resolución en los Países Bajos llega en un momento crítico para Grok, que enfrenta un fuerte escrutinio internacional debido al volumen de material ilícito generado por su software:
- Entre diciembre de 2025 y enero de 2026, el Center for Countering Digital Hate estimó que Grok generó casi 3 millones de imágenes sexualizadas, incluyendo 23,000 representaciones de aparentes menores de edad.
- La Comisión Europea abrió una investigación formal contra X bajo la Ley de Servicios Digitales, sumándose a las pesquisas de la Ofcom y autoridades de protección de datos en el Reino Unido.
- Indonesia y Malasia ya prohibieron por completo el uso de este chatbot dentro de sus territorios.
- En Estados Unidos, una corte federal de California recibió una demanda colectiva que busca proteger a víctimas adolescentes de contenido de abuso infantil generado por IA.
La ofensiva legal internacional demuestra un cambio definitivo en la postura de los reguladores. Las autoridades ya no aceptan la excusa de la responsabilidad exclusiva del usuario final y ahora exigen controles de moderación estrictos desde el desarrollo inicial del hardware y el código.
