Esta tecnología es la misma que se utiliza para bloquear la pornografía infantil en su sitio web, pero, como la inteligencia artificial y los algoritmos todavía no son tan especializados como las personas para comprender los matices del contenido y el lenguaje, todavía necesita humanos para detectar estas amenazas.
Unas de las técnicas utilizadas es la detección de imágenes, con ella la tecnología compara fotos y videos publicados por usuarios de Facebook con los videos y fotos conocidas por su connotación terrorista.
Facebook también está trabajando en “señales basadas en texto” de material que ya ha sido removido. Estas señales se ingresan a un sistema de aprendizaje automático o aprendizaje máquina para que en el futuro, el sistema sea capaz de detectar los contenidos y publicaciones similares.
Esta apuesta surge después de las múltiples demandas de las autoridades para que las plataformas de redes sociales, como Facebook, sean capaces de identificar y prevenir el esparcimiento de la propaganda terrorista y el reclutamiento a través de estas plataformas.
Monica Bickert, directora de las políticas de administración, escribió:
Nuestra postura es simple: no hay lugar para el terrorismo en Facebook
Brian Fishman, gerente de políticas contraterroristas, continuó:
Eliminamos terroristas y publicaciones que apoyen el terrorismo justo cuando nos enteramos de ellas. Cuando recibimos reportes de publicaciones potencialmente terroristas, revisamos los reportes urgentemente y con escrutinio
Por último, de acuerdo con la compañía, más de 150 personas, entre las que se encuentran expertos anti terrorismo, ex fiscales, ex agentes de la ley, analistas e ingenieros, se encuentran trabajando con Facebook para concentrarse “exclusivamente en combatir el terrorismo”.
