✨︎ Resumen (TL;DR):
- Apple exigió a xAI mejorar la moderación de su inteligencia artificial o perdería su lugar en iOS.
- La crisis estalló a principios de 2026 por solicitudes masivas para desnudar a personas en fotografías.
- Una investigación reciente demuestra que los usuarios siguen evadiendo las restricciones de la plataforma.
A principios de este año, Apple amenazó en privado a xAI con retirar su chatbot de la App Store tras confirmar que generaba imágenes sexualizadas de mujeres y menores sin consentimiento. El ultimátum quedó registrado en una carta enviada a senadores estadounidenses, obtenida en exclusiva por NBC News y revelada este 14 de abril.
La crisis estalló a finales de diciembre de 2025 y principios de enero de 2026. Los usuarios descubrieron que Grok procesaba libremente peticiones para quitarle la ropa a las personas en las fotos.
Deepfake es un archivo multimedia sintético que altera la apariencia física o voz de una persona mediante machine learning y redes neuronales.
Tras monitorear el impacto mediático y recibir quejas, Apple determinó que tanto X como Grok violaban las normativas de su tienda. La empresa exigió a los desarrolladores de Elon Musk un plan de moderación urgente.
xAI envió una primera actualización, pero Apple la bloqueó argumentando que los cambios eran insuficientes. Posteriormente, la compañía de Musk mandó versiones revisadas de X y Grok. Apple aprobó la red social, pero rechazó la inteligencia artificial.
“Apple revisó envíos posteriores de los desarrolladores y determinó que X había resuelto sustancialmente sus violaciones, pero que la aplicación Grok seguía sin cumplir”, detalla la carta citada por NBC News. “Como resultado, rechazamos el envío de Grok y notificamos al desarrollador que se requerirían cambios adicionales para remediar la violación, o la aplicación podría ser eliminada de la App Store”.
El impacto legal y los filtros fallidos
Solo después de una serie de negociaciones, Apple concluyó que el software mejoró lo suficiente para mantener su distribución.
- xAI limitó quién puede usar las herramientas de generación de imágenes.
- La plataforma impuso bloqueos técnicos para evitar la edición de fotografías de personas reales.
El Fiscal General de California, Rob Bonta, inició una investigación contra xAI en enero. Paralelamente, los legisladores exigieron a Google y Apple la eliminación inmediata de ambos programas en sus plataformas.
A pesar de los ajustes en el código, la vulnerabilidad persiste en la aplicación. Un reporte de NBC News documentó decenas de casos durante el último mes donde los usuarios lograron saltarse los filtros de seguridad para crear más contenido explícito, desafiando la efectividad de las medidas impuestas por xAI.
