De flesta AI-genererade Deepfake-videor online är porr

Forskare har sökt på internet efter alla AI-genererade “deepfake” -videor som webben erbjuder och (överraskning!) Det mesta av innehållet – med 96 procent – är porr.

De AI-modifierade videoklippen har överväldigande ansikten på kändisar som byts ut mot befintliga porrklipp, enligt Deeptrace, ett Amsterdam-baserat företag som specialiserat sig på att upptäcka deepfakes.

“Vi fann också att de fyra främsta webbplatserna tillägnad djupt falsk pornografi fick mer än 134 miljoner visningar på videor riktade till hundratals kvinnliga kändisar över hela världen”, säger Deeptrace VD Giorgio Patrini i en rapport. “Denna betydande tittare visar en marknad för webbplatser som skapar och är värd för djupt falsk pornografi, en trend som kommer att fortsätta växa om inte beslutsamma åtgärder vidtas.”

Deeptrace AI

Deepfake-porr riktade uteslutande till kvinnor, varav 99 procent är skådespelerskor eller musiker, och gjorde det utan deras samtycke. Webbplatser inklusive Pornhub, Twitter och Reddit har redan förbjudit AI-genererad porr från sina plattformar, men dessa djupfakes kan fortfarande enkelt hittas online med en snabb Google-sökning.

“Vi upptäckte att det djupa falska pornografiska ekosystemet nästan helt stöds av dedikerade djupa falska pornografiska webbplatser, som är värd för 13 254 av de totala videorna vi upptäckte”, säger studien. “Däremot var vanliga pornografiska webbplatser endast värd för 802 videor.”

Deepfake Facebook

Totalt avslöjade Deeptrace 14 678 deepfake-videor på nätet – vilket är dubbelt så mycket från december 2018. Studien tillskriver tillväxten till tillgången till deepfake-videogenererande verktyg gratis på datorkodningssidor som GitHub, förutom ökända onlineforum 4chan och 8chan. Även om verktygen för att göra deepfakes kräver viss kunskap om programmering och tillräcklig hårdvara har Deeptrace också märkt ökningen av onlinemarknadstjänster som är specialiserade på att låta någon skapa deepfakes i utbyte mot en avgift.

Resultaten kommer när lagstiftare och teknikexperter är oroliga att samma AI-videoredigerings-teknik kommer att användas för att sprida propaganda i ett amerikanskt val. Som svar undertecknade Kalifornien förra veckan ett nytt lagförslag som förbjuder förfalskningar av politiska kandidater inom 60 dagar före ett val.

Studien från Deeptrace understryker dock att teknologierna redan missbrukas för att rikta sig mot kvinnor genom att skapa porrvideor utan samtycke. “Deepfakes är här för att stanna, och deras påverkan känns redan i global skala”, säger företaget. “Vi hoppas att den här rapporten stimulerar till ytterligare diskussion om ämnet och betonar vikten av att utveckla en rad motåtgärder för att skydda individer och organisationer från de skadliga tillämpningarna av djupa förfalskningar.”

Relaterade Artiklar

Back to top button