Senatorer: Sociala medier måste förbereda sig för AI-skapade Deepfakes
Risken för AI-genererat “djupt falskt” innehåll som trasslar med valet 2020 har fått två amerikanska senatorer att ringa på Facebook, Twitter och YouTube för att komma med branschstandarder för att upptäcka och utrota det potentiella hotet.
På onsdagen skickade amerikanska senatorer Marco Rubio (R-Florida) och Mark Warner (D-Virginia) brev till stora sociala medieplattformar – inklusive Reddit, Snapchat, TikTok, Twitch och LinkedIn – om farorna med djupa förfalskningar som sprider felinformation till allmänheten .
“Vi anser att det är viktigt att din organisation har planer på att ta itu med försöket att använda dessa tekniker”, skrev senatorerna. “Vi uppmanar dig också att utveckla branschstandarder för delning, borttagning, arkivering och konfrontering av delning av syntetiskt innehåll.”
Även om vem som helst kan redigera ett foto kan dagens AI-drivna program läka ut bilder och videor till en ny, realistisk extrem. Funktioner inkluderar att byta ansikte mot en berömd skådespelares kropp, ta befintliga bilder och manipulera motivets ansikte för att säga något annat och generera verklighetstrogna huvudskott av människor som inte existerar.
Deepfake-teknik kan också tillämpas på ljud. Nyligen användes ett AI-baserat program för att efterlikna ett företags VD: s röst för att lura en anställd att göra en bedräglig banköverföring.
Sens.Rubio och Warner är oroliga att samma teknik kommer att användas för att pumpa ut felinformation som kommer att lura allmänheten och snabbt bli viral på sociala medier utan att hindra det. “Om allmänheten inte längre kan lita på inspelade händelser eller bilder kommer det att ha en frätande inverkan på vår demokrati”, skrev senatorerna.
De stora teknikföretagen är överens om den potentiella risken med djupa förfalskningar, men Rubio och Warner hävdar att det har gjorts “begränsade framsteg” när det gäller att skapa branschomfattande standarder för att ta itu med problemet och har bett sociala medieplattformar att svara på sju frågor angående deras policy till stoppa förfalskningar och varna användare om dem.
Förra månaden startade Facebook och Microsoft en tävling för att rekrytera forskare som vill utveckla verktyg för att upptäcka AI-genererade videor.
Google, som äger YouTube, har också släppt en dataset med 3000 djupa falska videor som skapats för akademiker i hopp om att de kan skapa system för att upptäcka tillverkade bilder från det verkliga. “Vi är engagerade i att investera i tekniken och de team som gör det möjligt för oss att förstå denna utmaning och upprätthålla integriteten på vår plattform”, sa YouTube till PCMag som svar på senatorns brev.
Om företagen kommer att lyckas med att reglera innehållet är en annan sak. Facebook, YouTube och Twitter har alla rutinmässigt utsatts för kritik för att de inte har stoppat felinformation och hatprat samtidigt som de har ådragit sig förtalarna för yttrandefrihet som har sprängt dem för censur online. Facebook-vd Mark Zuckerberg sa tidigare att hans företag utvecklar en policy kring djupa förfalskningar. Men det sociala nätverket har till stor del avstått från att radera falska nyheter och istället fokuserat på att degradera innehållet och placera det bredvid faktakontrollerade nyhetsartiklar.
Rubio och Warner säger att de förespråkar en “tydlig strategi och policy för autentisering av media.” Deepfake-innehåll bör också märkas och arkiveras så att forskare kan spåra desinformationskampanjer, särskilt om en utländsk regering kan stå bakom propagandainsträngningen.
“Hotet med djupa förfalskningar är verkligt, och endast genom att hantera det öppet kan vi hoppa för att behålla allmänhetens förtroende för de plattformar den använder, och begränsa den omfattande skada, störning och förvirring som även en framgångsrik djupfals kan ha,” skrev de .
