Facebook förbjuder 200 vita supremacistgrupper
Facebooks ansträngningar för att stoppa online-extremism på det sociala nätverket har lett till att företaget förbjuder mer än 200 vita supremacistgrupper.
Företaget avslöjade också att det har blockerat åtminstone några användarupplagda länkar till sidwebbplatserna 8chan och 4chan, som är kända för att vara värd för hatprat. El Paso-skytten publicerade ett dokument på 8chan före förra månadens massfotografering, till exempel, uppmanade nätverksinfrastrukturleverantörerna Cloudflare och Voxility att avsluta tjänster med webbplatsen, som förblir offline.
Facebook redogjorde för ansträngningarna vid en senatsförhandling idag, där ledare från Google och Twitter också vittnade om försök att identifiera och ta bort våldsamt och extremistiskt innehåll från sina plattformar. Innan utfrågningen gav Facebook en uppdatering om sina försök att ta itu med problemet med hjälp av AI och människodrivet innehållsmoderering.
I mars kunde gärningsmannen bakom en separat massskytte i Christchurch, Nya Zeeland, leva live sin attack på Facebook, trots företagets skyddsåtgärder. Facebook förklarade senare att dess automatiserade innehållsmoderering helt enkelt inte var tillräckligt smart för att känna igen filmens störande natur. Men företaget säger nu att det har en potentiell lösning: Facebook kommer att få kamerafilmer från amerikanska och brittiska brottsbekämpande tjänstemän på skjutvapenutbildning för att lära sina AI-system att upptäcka videor som visar massskott.
“Med detta initiativ strävar vi efter att förbättra vår upptäckt av verkliga, första person-bilder av våldsamma händelser och undvika att felaktigt upptäcka andra typer av bilder, såsom fiktivt innehåll från filmer eller videospel,” sa Facebook.
Samma inlägg nämner också Facebooks åtgärder för att förbjuda mer än 200 vita supremacistgrupper, som involverade användning av AI och mänskliga experter för att också ta bort innehåll som berömmer eller stöder organisationerna. Avlägsnandet inträffar eftersom företaget har förbjudit uppmaningar till vit nationalism och vit separatism på det sociala nätverket. Tidigare tillät det båda ideologierna och klassificerade dem som extremhöger politiska rörelser. Men i mars började Facebook knyta innehållet direkt till marknadsföring av “vit överhöghet”, ett ämne som redan var utestängt på plattformen.
“Vi måste fortsätta att upprepa vår taktik eftersom vi vet att dåliga skådespelare kommer att fortsätta att förändra sin, men vi tycker att det här är viktiga steg för att förbättra vår detekteringsförmåga,” tillade företaget.
I ett brev till den amerikanska representanten Max Rose (D-NY) sa Facebooks globala policyhanteringschef Monika Bickert också: “Vänligen veta att Facebook blockerar länkar till platser på 8chan och 4chan som är dedikerade till distribution av avskyvärt innehåll.” Under dagens utfrågning citerade Bickert specifikt 8chan’s / Pol-styrelsen (politiskt inkorrekt anslagstavla) som en av de blockerade domänerna, men det är oklart när förbudet trädde i kraft.
Trots Facebooks ansträngningar är vissa experter fortfarande oroliga för att det sociala nätverket inte gör tillräckligt för att stoppa online-extremism. Det sociala nätverket har inte heller identifierat vilka vita supremacistgrupper det förbjöd eller hur många anhängare de hade.
“När Facebook i sin transparensrapport hävdar att det vidtagit åtgärder mot fyra miljoner bitar av hatprat från januari till mars 2019, är det svårt att förstå vad detta innebär i sitt sammanhang,” säger George Selim, senior vice president med Anti-Defamation League, som också vittnade vid dagens senatsförhandling. Han uppmanar Facebook att ge mer transparens och information om de ansträngningar som avlägsnas av hatprat som kan verifieras av tredje part.
