Proteggere Facebook Live da Abuso e di Investire in Manipolato Media Research

0
24

Da Guy Rosen, VP Integrità

A seguito di terribili attacchi terroristici in Nuova Zelanda, abbiamo iniziato a rivedere che cosa possiamo fare per limitare i nostri servizi siano utilizzati per causare danni o diffondere odio. Come diretta conseguenza, a partire da oggi, le persone che hanno violato alcune regole di Facebook, anche il nostro Pericolose Organizzazioni e gli Individui politica — sarà consentito l’uso di Facebook Live.

Per affrontare queste minacce richiede anche l’innovazione tecnica per rimanere davanti il tipo di contraddittorio manipolazione dei media che abbiamo visto dopo Christchurch quando alcune persone modificato il video, per evitare il rilevamento, al fine di repost dopo che era stata presa verso il basso. Questo richiederà orientato alla ricerca in tutta l’industria e il mondo accademico. A tal fine, stiamo anche investendo 7,5 milioni di dollari in una nuova ricerca di partnership con i principali studiosi delle tre università, progettato per migliorare l’immagine e video tecnologia di analisi.

Restrizioni di Vivere

La stragrande maggioranza di persone usano Facebook Live per scopi positivi, come la condivisione di un momento con gli amici o di sensibilizzazione per una causa che interessa a loro. Ancora, dal Vivo può essere abusato e vogliamo prendere misure per limitare l’abuso.

Prima di oggi, se qualcuno ha postato il contenuto che ha violato i nostri Standard della Comunità — dal Vivo o altrove, abbiamo preso giù i loro post. Se hanno mantenuto la pubblicazione di contenuti che violino le abbiamo bloccato loro l’utilizzo Facebook per un certo periodo di tempo, che anche rimosso la loro capacità di trasmettere in Diretta. E, in alcuni casi, noi abbiamo bandito dal nostro servizi del tutto, a causa dei ripetuti basso livello di violazione o, in rari casi, a causa di un singolo eclatanti di violazione (ad esempio, utilizzando il terrore di propaganda in una foto per il profilo o la condivisione di immagini di sfruttamento dei bambini).

Oggi siamo di serraggio le regole che si applicano specificamente a Vivere. Vediamo ora di applicare uno “sciopero” della politica per Vivere in relazione con una più ampia gamma di reati. Da ora in poi, chiunque violi il nostro più grave politiche sarà consentito l’uso di Live per determinati periodi di tempo, ad esempio 30 giorni – a partire dal loro primo reato. Per esempio, qualcuno che condivide un link di una dichiarazione da parte di un gruppo di terroristi senza un contesto, ora sarà immediatamente bloccato dall’utilizzo di Vivere per un determinato periodo di tempo.

Abbiamo in programma di estendere le restrizioni di altre aree nel corso delle prossime settimane, a partire prevenire quelle stesse persone dalla creazione di annunci su Facebook.

Riconosciamo la tensione tra le persone che preferiscono libero accesso ai nostri servizi e le restrizioni necessarie per mantenere le persone al sicuro su Facebook. Il nostro obiettivo è quello di ridurre al minimo il rischio di abusi su Live, mentre permettendo alla gente di usare il Live in modo positivo ogni giorno.

Investimenti nella Ricerca Manipolato Media

Una delle sfide che abbiamo affrontato in questi giorni, dopo di Christchurch, l’attacco è stata una proliferazione di molte varianti di video dell’attacco. La gente non sempre intenzionalmente condiviso le versioni modificate del video, che ha reso difficile per i nostri sistemi per rilevare.

Anche se abbiamo implementato una serie di tecniche che consentono di trovare alla fine di queste varianti, tra cui video e audio, la tecnologia di corrispondenza, ci siamo resi conto che questa è un’area dove c’è bisogno di investire in ulteriori ricerche.

Ecco perché collaboriamo con L’Università del Maryland, della Cornell University e della University of California, Berkeley per la ricerca di nuove tecniche per:

  • Rilevare manipolato i media attraverso immagini, video e audio, e
  • Distinguere tra inconsapevole manifesti e avversari che intenzionalmente manipolare i video e fotografie.

Trattare con l’aumento di manipolazione dei media sarà bisogno di una profonda ricerca e la collaborazione tra industria e mondo accademico — abbiamo bisogno di tutti coloro che lavorano insieme per affrontare questa sfida. Queste partnership sono solo un pezzo del nostro impegno di partner accademici e i nostri colleghi di tutto di settore, nei mesi a venire, ci sarà partner più così siamo in grado di muoversi il più rapidamente possibile innovare, di fronte a questa minaccia.

Questo lavoro sarà fondamentale per il nostro più ampio impegno contro manipolato i media, tra cui deepfakes (video volutamente manipolate per descrivere gli eventi che non si è mai verificato). Speriamo che ci aiuterà anche per una più efficace lotta organizzata cattivi attori che tenta di superare in astuzia i nostri sistemi, come abbiamo visto accadere dopo l’Christchurch attacco.

Queste sono questioni complesse e i nostri avversari continuano a cambiare tattica. Sappiamo che è solo rimanendo vigile e in collaborazione con esperti di altre aziende, governi e società civili di tutto il mondo che si sarà in grado di mantenere le persone al sicuro. Ci auguriamo di poter continuare il nostro lavoro insieme.