Skydda Facebook Live från Missbruk och Investera i Riggade Media Research

0
27

Av Guy Rosen, VP Integritet

Efter de fruktansvärda terrorattackerna i Nya Zeeland, vi har gått igenom vad vi mer kan göra för att begränsa våra tjänster används för att orsaka skada eller sprida hat. Som en direkt följd, med början idag, människor som har brutit mot vissa regler på Facebook — inklusive våra Farliga Organisationer och Individer politik — kommer att begränsas från att använda Facebook Live.

För att hantera dessa hot krävs också teknisk innovation för att ligga steget före i den typ av kontradiktoriska media manipulation vi såg efter Christchurch när vissa människor har ändrat video för att undvika upptäckt för att lägga upp den efter att den hade tagits ner. Detta kommer att kräva forskning som drivs inom industrin och den akademiska världen. Därför är vi också investera $7,5 miljoner euro i ny forskning i partnerskap med ledande forskare från de tre universiteten, som utformats för att förbättra bild-och videoanalys teknik.

Begränsningar att Leva

Den överväldigande majoriteten av människor använder Facebook Live för positiva ändamål, som att dela en stund med vänner eller öka medvetandet för en sak som de bryr sig om. Fortfarande, Live kan missbrukas, och vi vill vidta åtgärder för att begränsa missbruk.

Innan idag, om någon publicerat innehåll som brutit mot våra Gemenskapens Normer — på Live-eller någon annanstans — vi tog ned sina inlägg. Om de höll posta innehåll som bryter mot policyn vi har blockerat dem från att använda Facebook för en viss tid, som också tagit bort deras förmåga att sända Live. Och i vissa fall, vi förbjöd dem från våra tjänster helt och hållet, antingen på grund av upprepade låg nivå brott, eller, i sällsynta fall, på grund av en enda flagranta brott (till exempel med hjälp av skräck propaganda i en profil bild eller dela bilder av utnyttjande av barn).

Idag är vi skärpa de regler som gäller specifikt för att Leva. Vi kommer nu att tillämpa en “one strike” – politiken att Leva i samband med ett bredare utbud av brott. Från och med nu, någon som bryter mot våra mest allvarliga politik kommer att begränsas från att använda Live-för att ställa in tid – till exempel 30 dagar – med start på sitt första brott. Till exempel, någon som delar en länk till ett uttalande från en terroristgrupp med något sammanhang kommer nu omedelbart att blockeras från att använda Live under en fastställd period av tid.

Vi planerar att utöka dessa begränsningar till andra områden under de kommande veckorna, med början med att hindra dessa människor från att skapa annonser på Facebook.

Vi känner igen spänningen mellan människor som föredrar fri tillgång till våra tjänster och de restriktioner som behövs för att hålla människor trygga på Facebook. Vårt mål är att minimera risken för missbruk på Live samtidigt göra det möjligt för människor att Leva på ett positivt sätt varje dag.

Att investera i Forskning för att Manipulera Media

En av de utmaningar vi står inför i dagar efter Christchurch attacken var en spridning av många olika varianter av video attacken. Människor — inte alltid medvetet — delat redigerade versioner av video, vilket gjorde det svårt för våra system att upptäcka.

Även om vi använt ett antal tekniker för att så småningom hitta dessa varianter, inklusive video och ljud matchande teknik, insåg vi att detta är ett område där vi behöver investera i ytterligare forskning.

Det är därför vi samarbetar med University of Maryland, Cornell University och University of California, Berkeley till forskning om nya tekniker för att:

  • Upptäcka manipulerade medier över av bilder, video och ljud, och
  • Skilja mellan ovetande affischer och motståndare som avsiktligt manipulera filmer och fotografier.

Att hantera ökningen av manipulerade media kommer att kräva djupa forskning och samverkan mellan industrin och den akademiska världen — vi måste alla arbeta tillsammans för att tackla denna utmaning. Dessa partnerskap är bara en del av våra ansträngningar att samarbeta med forskare och våra kollegor i branschen — i månader framöver, vi kommer att samarbeta mer så att vi alla kan flytta så snabbt som möjligt för att förnya sig inför detta hot.

Detta arbete kommer att vara avgörande för vår bredare insatser mot manipulerade media, inklusive deepfakes (video avsiktligt manipulerade för att skildra händelser som aldrig inträffat). Vi hoppas att det också kommer att hjälpa oss att mer effektivt bekämpa den organiserade dåliga aktörer som försöker överlista våra system som vi såg hända efter Christchurch attack.

Frågorna är komplexa och våra motståndare fortsätta att ändra taktik. Vi vet att det är bara genom att förbli vaksamma och att arbeta med experter, andra företag, regeringar och det civila samhället runt om i världen att vi kommer att kunna hålla människor trygga. Vi ser fram emot att fortsätta vårt arbete tillsammans.