La protection de Facebook en Direct de l’Abus et de l’Investissement dans Manipulé de Recherche sur les Médias

0
29

Par Guy Rosen, vice-président de l’Intégrité

Après les terribles attentats terroristes de la Nouvelle-Zélande, nous avons fait un examen de ce que nous pouvons faire pour limiter nos services à partir de l’être utilisé pour causer des dommages ou de la propagation de la haine. Comme un résultat direct, à partir d’aujourd’hui, les gens qui n’ont pas respecté certaines règles sur Facebook — y compris notre Dangereux des Organisations et des Individus de la politique seront exclus de l’aide de Facebook Live.

La lutte contre ces menaces exige également l’innovation technique pour rester en tête du type caractère contradictoire de la manipulation des médias nous l’avons vu après Christchurch lorsque certaines personnes modifié la vidéo pour éviter la détection, afin de reposter après qu’elle a été prise vers le bas. Cela nécessitera des travaux de recherche entre l’industrie et le milieu universitaire. À cette fin, nous sommes également investir 7,5 millions de dollars dans de nouveaux partenariats de recherche avec des universitaires de premier plan provenant de trois universités, conçu pour améliorer l’image et la vidéo de l’analyse de la technologie.

Restrictions à Vivre

L’écrasante majorité de personnes utilisent Facebook en Direct pour des buts positifs, comme le partage d’un moment avec des amis ou de la sensibilisation pour une cause qu’ils se soucient. Encore, en Direct peuvent être victimes de violence et nous voulons prendre des mesures pour limiter les abus.

Avant aujourd’hui, si quelqu’un a posté un contenu qui enfreint nos Standards de la Communauté — en Direct ou ailleurs — nous avons pris vers le bas de leur poste. Si ils ont gardé l’affichage violation de contenu, nous avons bloqué de l’aide de Facebook pour une certaine période de temps, qui a également retiré leur capacité à diffuser en Direct. Et, dans certains cas, nous avons banni de nos services, au total, soit en raison de la répétition de bas niveau violations, ou, dans de rares cas, en raison d’une seule violation flagrante (par exemple, à l’aide de la terreur de la propagande dans une photo de profil ou de partage d’images d’exploitation des enfants).

Aujourd’hui, nous sommes resserrer les règles qui s’appliquent spécifiquement à Vivre. Maintenant, nous allons appliquer une “grève” de la politique pour Vivre en relation avec un large éventail d’infractions. À partir de maintenant, toute personne qui enfreint nos plus graves politiques seront exclus de l’aide en Direct pour une période de temps – par exemple, 30 jours – à compter de leur première infraction. Par exemple, quelqu’un qui partage un lien vers une déclaration d’un groupe terroriste sans le contexte qui va maintenant être immédiatement bloqué à l’aide de Live pour une période de temps définie.

Nous envisageons d’étendre ces restrictions à d’autres domaines au cours des prochaines semaines, en commençant par la prévention de ces mêmes gens de créer des annonces sur Facebook.

Nous reconnaissons la tension entre les personnes qui préfèrent libre accès à nos services et les restrictions nécessaires pour maintenir la sécurité des personnes sur Facebook. Notre objectif est de minimiser le risque de l’abus sur le Live tout en permettant aux gens d’utiliser de Vivre de manière positive tous les jours.

Investir dans la Recherche de Manipulé les Médias

L’un des défis que nous avons relevés dans les jours qui suivent l’Christchurch attaque était une prolifération de nombreuses variantes de la vidéo de l’attaque. Les gens — pas toujours intentionnellement partagés versions modifiées de la vidéo, ce qui fait qu’il est difficile pour nos systèmes de détection.

Bien que nous avons déployé un certain nombre de techniques pour trouver ces variantes, y compris la vidéo et audio de haute technologie, nous nous sommes rendu compte que c’est un domaine où nous devons investir dans la recherche.

C’est pourquoi nous travaillons en partenariat avec L’Université du Maryland, l’Université de Cornell et de L’Université de Californie, Berkeley, à la recherche de nouvelles techniques pour:

  • Détecter manipulé les médias à travers des images, de la vidéo et de l’audio, et
  • La distinction entre involontaire des affiches et des adversaires qui, intentionnellement manipuler des vidéos et des photographies.

Traiter avec la montée de manipulé les médias ont besoin profond de la recherche et de la collaboration entre l’industrie et le monde universitaire, nous devons tous travailler ensemble pour relever ce défi. Ces partenariats sont une seule piece de nos efforts de partenariat avec des universitaires et nos collègues de l’industrie dans les mois à venir, nous allons partenaire de plus pour qu’on puisse tous se déplacer aussi rapidement que possible à innover face à cette menace.

Ce travail sera essentiel pour notre plus large des efforts de lutte contre manipulé les médias, y compris deepfakes (vidéos intentionnellement manipulé pour décrire les événements qui n’a jamais eu lieu). Nous espérons qu’il nous aidera aussi à combattre plus efficacement organisé mauvais acteurs qui tentent de déjouer nos systèmes que nous avons vu se produire après l’Christchurch attaque.

Ces questions sont complexes et nos adversaires continuent à changer de tactique. Nous savons que c’est seulement en restant vigilant et en collaboration avec des experts, d’autres entreprises, les gouvernements et la société civile à travers le monde que nous allons être en mesure de garder les gens en sécurité. Nous nous réjouissons de poursuivre notre collaboration.