De flesta AI-genererade Deepfake-videor online är porr

De flesta AI-genererade Deepfake-videor online är porr

Forskare har s√∂kt p√• internet efter alla AI-genererade “deepfake” -videor som webben erbjuder och (√∂verraskning!) Det mesta av inneh√•llet – med 96 procent – √§r porr.

De AI-modifierade videoklippen har överväldigande ansikten på kändisar som byts ut mot befintliga porrklipp, enligt Deeptrace, ett Amsterdam-baserat företag som specialiserat sig på att upptäcka deepfakes.

“Vi fann ocks√• att de fyra fr√§msta webbplatserna till√§gnad djupt falsk pornografi fick mer √§n 134 miljoner visningar p√• videor riktade till hundratals kvinnliga k√§ndisar √∂ver hela v√§rlden”, s√§ger Deeptrace VD Giorgio Patrini i en rapport. “Denna betydande tittare visar en marknad f√∂r webbplatser som skapar och √§r v√§rd f√∂r djupt falsk pornografi, en trend som kommer att forts√§tta v√§xa om inte beslutsamma √•tg√§rder vidtas.”

Deepfake-porr riktade uteslutande till kvinnor, varav 99 procent är skådespelerskor eller musiker, och gjorde det utan deras samtycke. Webbplatser inklusive Pornhub, Twitter och Reddit har redan förbjudit AI-genererad porr från sina plattformar, men dessa djupfakes kan fortfarande enkelt hittas online med en snabb Google-sökning.

“Vi uppt√§ckte att det djupa falska pornografiska ekosystemet n√§stan helt st√∂ds av dedikerade djupa falska pornografiska webbplatser, som √§r v√§rd f√∂r 13 254 av de totala videorna vi uppt√§ckte”, s√§ger studien. “D√§remot var vanliga pornografiska webbplatser endast v√§rd f√∂r 802 videor.”

Deepfake Facebook

Totalt avsl√∂jade Deeptrace 14 678 deepfake-videor p√• n√§tet – vilket √§r dubbelt s√• mycket fr√•n december 2018. Studien tillskriver tillv√§xten till tillg√•ngen till deepfake-videogenererande verktyg gratis p√• datorkodningssidor som GitHub, f√∂rutom √∂k√§nda onlineforum 4chan och 8chan. √Ąven om verktygen f√∂r att g√∂ra deepfakes kr√§ver viss kunskap om programmering och tillr√§cklig h√•rdvara har Deeptrace ocks√• m√§rkt √∂kningen av onlinemarknadstj√§nster som √§r specialiserade p√• att l√•ta n√•gon skapa deepfakes i utbyte mot en avgift.

Resultaten kommer när lagstiftare och teknikexperter är oroliga att samma AI-videoredigerings-teknik kommer att användas för att sprida propaganda i ett amerikanskt val. Som svar undertecknade Kalifornien förra veckan ett nytt lagförslag som förbjuder förfalskningar av politiska kandidater inom 60 dagar före ett val.

Studien fr√•n Deeptrace understryker dock att teknologierna redan missbrukas f√∂r att rikta sig mot kvinnor genom att skapa porrvideor utan samtycke. “Deepfakes √§r h√§r f√∂r att stanna, och deras p√•verkan k√§nns redan i global skala”, s√§ger f√∂retaget. “Vi hoppas att den h√§r rapporten stimulerar till ytterligare diskussion om √§mnet och betonar vikten av att utveckla en rad mot√•tg√§rder f√∂r att skydda individer och organisationer fr√•n de skadliga till√§mpningarna av djupa f√∂rfalskningar.”