✨︎ Resumen (TL;DR):
- WIRED y AI Forensics rastrearon una red de más de 400 apps y dominios vinculados con funciones para crear imágenes sexuales falsas sin consentimiento.
- 27 apps de la red estaban disponibles en Google Play en septiembre y acumulaban más de 350,000 descargas.
- Apple retiró 19 apps y Meta eliminó cerca de dos tercios de más de 3,000 anuncios, pero WIRED seguía encontrando casos similares al cierre del reportaje.
WIRED y AI Forensics rastrearon una red de más de 400 aplicaciones y dominios que ofrecía funciones para crear imágenes sexuales falsas de personas sin su consentimiento, aunque algunas apps se presentaban como herramientas para retratos de mascotas, idiomas o ejercicio. La investigación siguió anuncios en Facebook e Instagram y encontró entre ellos material de abuso sexual infantil generado con IA. Apple retiró 19 aplicaciones después de que WIRED preguntó por la red y compartió dominios asociados.
Un deepfake sexual no consentido es una imagen sexual falsa de una persona real creada con IA sin su autorización.
De herramientas cotidianas a funciones ocultas
Algunas aplicaciones se presentaban como herramientas para crear retratos de mascotas, aprender idiomas o hacer ejercicio. WIRED informó que podían mostrar funciones distintas de las anunciadas y conectarse con otro contenido después de ser aprobadas.
El seguimiento de anuncios de Meta llevó a los investigadores hasta la red, de acuerdo con WIRED. Entre la publicidad examinada había material de abuso sexual infantil generado con IA.
WIRED ya había informado en septiembre que el Tech Transparency Project detectó cientos de anuncios con ese tipo de material en las plataformas de Meta. Algunas piezas incluían imágenes de menores reales.
En agosto, una investigación anterior de WIRED sobre publicidad en Meta llevó a Apple a retirar una aplicación después de que el medio consultó a la empresa.
Dos cifras, dos alcances para la misma red
AI Forensics sostuvo que detectó más de 400 aplicaciones publicadas en las tiendas de Apple y Google. WIRED, en cambio, describió más de 400 aplicaciones y dominios conectados.
Las cifras tienen alcances distintos: una se refiere a apps publicadas y la otra incluye aplicaciones y dominios vinculados. Ninguna indica por sí sola cuántas seguían disponibles cuando se publicó la investigación ni cuántas personas resultaron afectadas.
El análisis de AI Forensics citado por WIRED identificó 27 aplicaciones de la red que estaban disponibles en Google Play en septiembre. En conjunto, sumaban más de 350,000 descargas.
Ese volumen no permite saber cuántas personas usaron las funciones ocultas ni cuántas imágenes se crearon.
Qué respondieron Apple, Google y Meta
-
Apple: retiró 19 aplicaciones de su tienda después de que WIRED preguntó por la actividad y compartió los dominios asociados. La empresa sostuvo que las apps cumplían sus reglas cuando fueron revisadas y que sus desarrolladores cambiaron el contenido al que se conectaban después de la aprobación.
-
Google: no respondió a la solicitud de comentarios de WIRED sobre la red. El medio añadió que Google ya había retirado la mayoría de las aplicaciones identificadas en su tienda antes de recibir la consulta.
-
Meta: dijo que había eliminado cerca de dos tercios de más de 3,000 anuncios asociados con los dominios identificados por WIRED. También afirmó haber bloqueado a 209 aplicaciones para anunciarse en sus plataformas y haber tomado medidas contra cuentas y páginas vinculadas.
El contenido podía cambiar después de la aprobación
Apple reforzó sus directrices de revisión en octubre y reiteró que prohíbe las aplicaciones que generan imágenes sexuales de personas reales sin su consentimiento. La política de contenido generado con IA de Google Play también prohíbe los deepfakes sexuales no consentidos.
Según la explicación de Apple, su revisión inicial no impidió que algunas aplicaciones mostraran contenido distinto después de ser aprobadas.
Al cierre del reportaje, WIRED seguía encontrando anuncios y aplicaciones similares en las plataformas. Las cifras de retiradas tampoco aclaran cuántas personas fueron víctimas de las imágenes generadas mediante la red.
