✨︎ Resumen (TL;DR):
- El Consejo de Supervisión de Meta revocó la decisión de mantener un video sexual generado con IA en Instagram.
- La resolución exige tratar la suplantación sexual con IA como no consensuada de forma automática.
- Se propone habilitar reportes globales y permitir que familiares o amigos denuncien el contenido en nombre de la víctima.
El Consejo de Supervisión de Meta ordenó a la empresa retirar un video íntimo generado con inteligencia artificial en Instagram y endurecer sus políticas de seguridad. La resolución, publicada el 23 de junio, revoca la decisión inicial de Meta de mantener la publicación y exige proteger de manera prioritaria a las personas afectadas.
Un deepfake íntimo es un formato de manipulación multimedia que altera o recrea la identidad de una persona en situaciones sexuales sin su consentimiento explícito. En este caso de Instagram, un usuario reportó un video creado con IA que suplantaba a una mujer y dañaba su reputación. Aunque Meta decidió no actuar al principio, el Consejo determinó que el post violaba la política de Explotación Sexual de Adultos de la plataforma.
Cambios urgentes en las denuncias y políticas de Meta
El organismo independiente solicitó que cualquier suplantación sexual generada por IA sea tratada como no consensuada por defecto. Con esto, Meta deberá integrar esta señal de alerta de forma automática en sus sistemas de moderación automatizada y humana para agilizar la baja del contenido dañino.
El Consejo también exigió crear una categoría de denuncia específica para la suplantación sexual con IA, separada de las etiquetas de “acoso” o “desnudez”. Actualmente, los formularios especializados de reporte para este tipo de deepfakes solo están disponibles para usuarios en estados como Texas y Florida. La recomendación es que estas herramientas de seguridad se desplieguen a nivel global inmediatamente.
Además, la resolución propone permitir el uso de “cuentas conectadas”. Bajo este esquema, un usuario puede autorizar a familiares, amigos o socios de confianza para que reporten estas violaciones de privacidad en su representación. Esto reduce la carga psicológica sobre las víctimas, quienes hoy en día llevan la responsabilidad de denunciar por sí mismas.
Por último, el Consejo urgió a actualizar los términos internos. Pidió reemplazar el concepto de “photoshop sexualizado despectivo” por la definición de “medios manipulados no consensuados”. También recomendó adoptar a gran escala las credenciales de contenido de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).
La organización de derechos digitales WITNESS respaldó la decisión del Consejo. El grupo afirmó que el fallo “refleja las preocupaciones clave sobre la suplantación sexual generada por IA”, validando la necesidad de colocar el consentimiento como el eje central de la moderación en redes sociales.
