Beskytte Facebook Live fra Overgrep og til å Investere i Manipulert Media Research

0
8

Av Guy Rosen, VP Integritet

Etter de grusomme terrorangrepene i New Zealand, har vi sett nærmere på hva mer vi kan gjøre for å begrense våre tjenester blir brukt til å forårsake skade eller spre hat. Som et direkte resultat, som starter i dag, folk som har brutt visse regler på Facebook — inkludert våre Farlig Organisasjoner og Enkeltpersoner politikk — vil være begrenset fra å bruke Facebook Live.

Å håndtere disse truslene krever også teknisk innovasjon for å ligge i forkant av den typen alternative media manipulasjon vi så etter Christchurch når noen mennesker endret-video å unngå å bli oppdaget for å hvile det etter at det hadde blitt tatt ned. Dette vil kreve forskning drives på tvers av industri og akademia. Til slutt, vi søker også å investere $7,5 millioner i ny forskning partnerskap med ledende akademikere fra tre universiteter, designet for å forbedre bilde og video analyse teknologi.

Restriksjoner for å Leve

Det overveldende flertallet av mennesker bruker Facebook Live for en positiv hensikt, som å dele et øyeblikk med venner eller å øke bevisstheten for en sak de er opptatt av. Likevel, Live kan bli misbrukt, og vi ønsker å ta skritt for å begrense at misbruk.

Før i dag, hvis noen har lagt ut innhold som har brutt retningslinjene — på Live eller andre steder — vi tok ned sine innlegg. Hvis de holdt innlegg innhold som bryter retningslinjene, vi blokkert dem fra å bruke Facebook for en viss periode av tid, noe som også fjernet deres evne til å broadcast Live. Og i noen tilfeller har vi forbudt dem fra våre tjenester, enten på grunn av gjentatt lavt nivå brudd, eller, i sjeldne tilfeller, på grunn av en enkelt grove brudd (for eksempel ved bruk av terror propaganda i et profilbilde eller deling av bilder av barn utnyttelse).

I dag er vi stramme regler som gjelder spesielt for å Leve. Vi vil nå bruke en “one strike” – policy å Leve i forbindelse med et bredere spekter av straffbare handlinger. Fra nå av kan alle som bryter med våre mest alvorlige politikk vil være begrenset fra å bruke Live for å sette tid – for eksempel 30 dager – starter på sin første forseelse. For eksempel, noen som deler en lenke til en uttalelse fra en terrorist gruppe med ingen sammenheng vil nå umiddelbart bli blokkert fra å bruke Live for en viss periode av tid.

Vi planlegger å utvide disse restriksjonene til andre områder i løpet av de kommende ukene, fra og med å hindre at de samme menneskene fra å opprette annonser på Facebook.

Vi gjenkjenner spenning mellom folk som foretrekker å få fri tilgang til våre tjenester og begrensninger er nødvendig for å holde folk trygge på Facebook. Vårt mål er å minimere risikoen for misbruk i Live mens du lar folk til å bruke Live på en positiv måte hver dag.

Å investere i Forskning i Manipulert Media

En av utfordringene vi møtte i dagene etter Christchurch angrepet var en oppblomstring av mange forskjellige varianter av video av angrepet. Folk — ikke alltid med vilje — delt redigerte versjoner av videoen, som gjorde det vanskelig for våre systemer for å oppdage.

Selv om vi var utplassert en rekke teknikker for å til slutt finne disse varianter, inkludert video og audio matching teknologi, skjønte vi at dette er et område hvor vi trenger å investere i videre forskning.

Det er derfor vi samarbeider med University of Maryland, Cornell University og University of California, Berkeley til forskning nye teknikker for å:

  • Oppdage manipulert media på tvers av bilder, video og lyd, og
  • Skille mellom uvitende plakater og motstandere som bevisst manipulere videoer og bilder.

Arbeider med fremveksten av manipulerte media vil kreve omfattende forskning og samarbeid mellom næringsliv og akademia — vi må alle jobbe sammen for å takle denne utfordringen. Disse partnerskapene er bare en del av vår innsats for å samarbeide med akademikere og våre kolleger på tvers av industrien — i månedene som kommer, vi vil samarbeide mer, slik at vi alle kan bevege seg så raskt som mulig for å innovere i mot denne trusselen.

Dette arbeidet vil være avgjørende for vår bredere innsats mot manipulert media, inkludert deepfakes (videoer bevisst manipulert til å skildre hendelser som aldri skjedd). Vi håper det vil også hjelpe oss til å mer effektivt bekjempe organisert dårlige skuespillere som prøver å overliste våre systemer som vi så skje etter Christchurch angrep.

Dette er komplekse problemstillinger og våre motstandere fortsette å endre taktikk. Vi vet at det er bare av gjenværende årvåken og jobbet med eksperter, andre selskaper, regjeringer og det sivile samfunn rundt om i verden at vi vil være i stand til å holde folk trygge. Vi ser frem til å fortsette vårt arbeid sammen.