De flesta AI-genererade Deepfake-videor online Àr porr

De flesta AI-genererade Deepfake-videor online Àr porr

Forskare har sökt pĂ„ internet efter alla AI-genererade “deepfake” -videor som webben erbjuder och (överraskning!) Det mesta av innehĂ„llet – med 96 procent – Ă€r porr.

De AI-modifierade videoklippen har övervÀldigande ansikten pÄ kÀndisar som byts ut mot befintliga porrklipp, enligt Deeptrace, ett Amsterdam-baserat företag som specialiserat sig pÄ att upptÀcka deepfakes.

“Vi fann ocksĂ„ att de fyra frĂ€msta webbplatserna tillĂ€gnad djupt falsk pornografi fick mer Ă€n 134 miljoner visningar pĂ„ videor riktade till hundratals kvinnliga kĂ€ndisar över hela vĂ€rlden”, sĂ€ger Deeptrace VD Giorgio Patrini i en rapport. “Denna betydande tittare visar en marknad för webbplatser som skapar och Ă€r vĂ€rd för djupt falsk pornografi, en trend som kommer att fortsĂ€tta vĂ€xa om inte beslutsamma Ă„tgĂ€rder vidtas.”

Deeptrace AI

Deepfake-porr riktade uteslutande till kvinnor, varav 99 procent Àr skÄdespelerskor eller musiker, och gjorde det utan deras samtycke. Webbplatser inklusive Pornhub, Twitter och Reddit har redan förbjudit AI-genererad porr frÄn sina plattformar, men dessa djupfakes kan fortfarande enkelt hittas online med en snabb Google-sökning.

“Vi upptĂ€ckte att det djupa falska pornografiska ekosystemet nĂ€stan helt stöds av dedikerade djupa falska pornografiska webbplatser, som Ă€r vĂ€rd för 13 254 av de totala videorna vi upptĂ€ckte”, sĂ€ger studien. “DĂ€remot var vanliga pornografiska webbplatser endast vĂ€rd för 802 videor.”

Deepfake Facebook

Totalt avslöjade Deeptrace 14 678 deepfake-videor pĂ„ nĂ€tet – vilket Ă€r dubbelt sĂ„ mycket frĂ„n december 2018. Studien tillskriver tillvĂ€xten till tillgĂ„ngen till deepfake-videogenererande verktyg gratis pĂ„ datorkodningssidor som GitHub, förutom ökĂ€nda onlineforum 4chan och 8chan. Även om verktygen för att göra deepfakes krĂ€ver viss kunskap om programmering och tillrĂ€cklig hĂ„rdvara har Deeptrace ocksĂ„ mĂ€rkt ökningen av onlinemarknadstjĂ€nster som Ă€r specialiserade pĂ„ att lĂ„ta nĂ„gon skapa deepfakes i utbyte mot en avgift.

Resultaten kommer nÀr lagstiftare och teknikexperter Àr oroliga att samma AI-videoredigerings-teknik kommer att anvÀndas för att sprida propaganda i ett amerikanskt val. Som svar undertecknade Kalifornien förra veckan ett nytt lagförslag som förbjuder förfalskningar av politiska kandidater inom 60 dagar före ett val.

Studien frĂ„n Deeptrace understryker dock att teknologierna redan missbrukas för att rikta sig mot kvinnor genom att skapa porrvideor utan samtycke. “Deepfakes Ă€r hĂ€r för att stanna, och deras pĂ„verkan kĂ€nns redan i global skala”, sĂ€ger företaget. “Vi hoppas att den hĂ€r rapporten stimulerar till ytterligare diskussion om Ă€mnet och betonar vikten av att utveckla en rad motĂ„tgĂ€rder för att skydda individer och organisationer frĂ„n de skadliga tillĂ€mpningarna av djupa förfalskningar.”