Senatorer: Sociala medier mÄste förbereda sig för AI-skapade Deepfakes

Senatorer: Sociala medier mÄste förbereda sig för AI-skapade Deepfakes

Risken för AI-genererat “djupt falskt” innehĂ„ll som trasslar med valet 2020 har fĂ„tt tvĂ„ amerikanska senatorer att ringa pĂ„ Facebook, Twitter och YouTube för att komma med branschstandarder för att upptĂ€cka och utrota det potentiella hotet.

PĂ„ onsdagen skickade amerikanska senatorer Marco Rubio (R-Florida) och Mark Warner (D-Virginia) brev till stora sociala medieplattformar – inklusive Reddit, Snapchat, TikTok, Twitch och LinkedIn – om farorna med djupa förfalskningar som sprider felinformation till allmĂ€nheten .

“Vi anser att det Ă€r viktigt att din organisation har planer pĂ„ att ta itu med försöket att anvĂ€nda dessa tekniker”, skrev senatorerna. “Vi uppmanar dig ocksĂ„ att utveckla branschstandarder för delning, borttagning, arkivering och konfrontering av delning av syntetiskt innehĂ„ll.”

Även om vem som helst kan redigera ett foto kan dagens AI-drivna program lĂ€ka ut bilder och videor till en ny, realistisk extrem. Funktioner inkluderar att byta ansikte mot en berömd skĂ„despelares kropp, ta befintliga bilder och manipulera motivets ansikte för att sĂ€ga nĂ„got annat och generera verklighetstrogna huvudskott av mĂ€nniskor som inte existerar.

Deepfake-teknik kan ocksÄ tillÀmpas pÄ ljud. Nyligen anvÀndes ett AI-baserat program för att efterlikna ett företags VD: s röst för att lura en anstÀlld att göra en bedrÀglig banköverföring.

Sens.Rubio och Warner Ă€r oroliga att samma teknik kommer att anvĂ€ndas för att pumpa ut felinformation som kommer att lura allmĂ€nheten och snabbt bli viral pĂ„ sociala medier utan att hindra det. “Om allmĂ€nheten inte lĂ€ngre kan lita pĂ„ inspelade hĂ€ndelser eller bilder kommer det att ha en frĂ€tande inverkan pĂ„ vĂ„r demokrati”, skrev senatorerna.

De stora teknikföretagen Ă€r överens om den potentiella risken med djupa förfalskningar, men Rubio och Warner hĂ€vdar att det har gjorts “begrĂ€nsade framsteg” nĂ€r det gĂ€ller att skapa branschomfattande standarder för att ta itu med problemet och har bett sociala medieplattformar att svara pĂ„ sju frĂ„gor angĂ„ende deras policy till stoppa förfalskningar och varna anvĂ€ndare om dem.

Förra mÄnaden startade Facebook och Microsoft en tÀvling för att rekrytera forskare som vill utveckla verktyg för att upptÀcka AI-genererade videor.

Google, som Ă€ger YouTube, har ocksĂ„ slĂ€ppt en dataset med 3000 djupa falska videor som skapats för akademiker i hopp om att de kan skapa system för att upptĂ€cka tillverkade bilder frĂ„n det verkliga. “Vi Ă€r engagerade i att investera i tekniken och de team som gör det möjligt för oss att förstĂ„ denna utmaning och upprĂ€tthĂ„lla integriteten pĂ„ vĂ„r plattform”, sa YouTube till PCMag som svar pĂ„ senatorns brev.

Om företagen kommer att lyckas med att reglera innehÄllet Àr en annan sak. Facebook, YouTube och Twitter har alla rutinmÀssigt utsatts för kritik för att de inte har stoppat felinformation och hatprat samtidigt som de har Ädragit sig förtalarna för yttrandefrihet som har sprÀngt dem för censur online. Facebook-vd Mark Zuckerberg sa tidigare att hans företag utvecklar en policy kring djupa förfalskningar. Men det sociala nÀtverket har till stor del avstÄtt frÄn att radera falska nyheter och istÀllet fokuserat pÄ att degradera innehÄllet och placera det bredvid faktakontrollerade nyhetsartiklar.

Rubio och Warner sĂ€ger att de föresprĂ„kar en “tydlig strategi och policy för autentisering av media.” Deepfake-innehĂ„ll bör ocksĂ„ mĂ€rkas och arkiveras sĂ„ att forskare kan spĂ„ra desinformationskampanjer, sĂ€rskilt om en utlĂ€ndsk regering kan stĂ„ bakom propagandainstrĂ€ngningen.

“Hotet med djupa förfalskningar Ă€r verkligt, och endast genom att hantera det öppet kan vi hoppa för att behĂ„lla allmĂ€nhetens förtroende för de plattformar den anvĂ€nder, och begrĂ€nsa den omfattande skada, störning och förvirring som Ă€ven en framgĂ„ngsrik djupfals kan ha,” skrev de .