💡 Resumen (TL;DR):
- YouTube amplía su tecnología de detección de rostros con IA a funcionarios, candidatos y periodistas.
- La herramienta ya había sido probada por casi 4 millones de creadores en el Programa de Socios.
- Los afectados podrán exigir la eliminación de videos falsos, aunque la plataforma mantendrá protecciones para la sátira.
YouTube anunció este martes la expansión de su tecnología de detección facial impulsada por Inteligencia Artificial hacia un grupo piloto de funcionarios gubernamentales, candidatos políticos y periodistas. Esta herramienta permite a las figuras públicas identificar y reportar videos con deepfakes que utilizan su rostro sin autorización, frenando la suplantación de identidad en la plataforma.
El sistema opera de forma similar a Content ID, la herramienta de la empresa para detectar material protegido por derechos de autor. Su algoritmo escanea los videos subidos en busca de rostros generados artificialmente.
Para utilizarlo, los participantes deben verificar su identidad mediante una identificación oficial con fotografía y un video selfie. Una vez inscritos, acceden a un panel donde revisan los contenidos marcados y deciden si solicitan su eliminación a través del proceso de quejas de privacidad.
Sin embargo, la detección no garantiza la censura. YouTube confirmó que seguirá protegiendo la parodia y la sátira política, incluso si los videos involucran a líderes mundiales o figuras influyentes.
“Esta expansión trata realmente sobre la integridad de la conversación pública”, declaró Leslie Miller, vicepresidenta de Asuntos Gubernamentales y Políticas Públicas de YouTube. “Sabemos que los riesgos de suplantación de identidad por IA son particularmente altos para quienes están en el espacio cívico. Pero aunque estamos proporcionando este nuevo escudo, también estamos siendo cuidadosos sobre cómo lo usamos”.
El salto de los creadores a la esfera pública
YouTube desarrolló este sistema de detección en 2024 junto a la Creative Artists Agency. En su primera etapa, lo probó con creadores de alto perfil como MrBeast y Marques Brownlee, para luego habilitarlo a aproximadamente 4 millones de miembros de su Programa de Socios.
Hasta el momento, el volumen de solicitudes de eliminación por parte de los youtubers es bajo. “La mayor parte resulta ser bastante benigna o aditiva para su negocio en general”, explicó Amjad Hanif, vicepresidente de Productos para Creadores de YouTube. Esta dinámica promete ser muy distinta en el terreno político, donde los videos falsos representan un riesgo directo para el discurso público.
La compañía se negó a confirmar qué funcionarios o periodistas participan en este primer piloto, omitiendo responder si el presidente Trump figura entre los evaluadores. YouTube planea ampliar el acceso en los próximos meses y ya explora tecnología similar para detectar suplantación de voz y personajes generados por computadora.
A la par de este despliegue tecnológico, la filial de Google reiteró su respaldo a la NO FAKES Act, un proyecto de ley federal estadounidense diseñado para establecer un derecho de publicidad y regular el uso no autorizado de voces e imágenes sintéticas. “La tecnología por sí sola no es la línea de meta”, sentenció la compañía en su blog oficial.
