Facebook, Microsoft startar tävling för att upptäcka Deepfake-videor

Facebook och Microsoft sponsrar tillsammans en tävling med fokus på att upptäcka AI-genererade “deepfake” -videor.

Deepfake Detection Challenge kommer att pågå från oktober till nästa mars med målet att utveckla nya system som kan identifiera när ett videoklipp faktiskt är en produkt av AI-algoritmer.

Även om doktorerade bilder inte är något nytt, tar tekniken bakom deepfakes tricket till en helt ny nivå; tack vare dagens maskininlärningsprogram kan du byta någons ansikte mot ett annat, eller ta befintliga bilder och manipulera motivets läppar för att säga något annat. Resultaten kan producera bilder och video som ser förvånansvärt verkliga ut, men som faktiskt är fiktion.

“Människor har manipulerat bilder nästan så länge som fotografering har funnits. Men det är nu möjligt för nästan vem som helst att skapa och förmedla förfalskningar till en masspublik”, säger Antonio Torralba, professor vid MIT, i ett uttalande. Andra algoritmer kan övertygande klona din röst så att den säger vad programmeraren vill. Det är därför som alla, inklusive amerikanska lagstiftare, är oroliga för att tekniken bakom djupa förfalskningar riskerar att lura allmänheten en dag.

”Ändå har branschen inte en stor datamängd eller riktmärke för att upptäcka dem, säger Facebooks teknologchef Mike Schroepfer i dagens tillkännagivande. för att upptäcka djupa förfalskningar. “

Andra medsponsorer av tävlingen inkluderar akademiker vid sju universitet och branschhandelsgruppen, Partnership on AI, som hjälper till att övervaka utmaningen.

Tävlingen fungerar så här: En grupp betalda skådespelare har anställts för att skapa en uppsättning videor. När de väl har spelats in planerar Microsoft, Facebook och de andra medsponsorerna att ta filmerna och manipulera dem med hjälp av de senaste AI-teknikerna för att skapa deepfakes.

Det blir då upp till tävlingsdeltagarna att skapa program för att upptäcka de tillverkade videorna. Bedömningen kommer att ske genom att sätta programmen mot djupfalsarna i en avskild “svart låda” -dator. Facebook, Microsoft och akademikerna planerar att utveckla en testmekanism som gör att deltagarnas effektiva sniffningsprogram blir effektiva.

Tävlingen, som är öppen för alla, planerar att erbjuda bidrag och utmärkelser. Deltagarna måste emellertid gå igenom en screeningprocess och komma överens om vissa villkor för att använda videodata, som ett skydd mot dåliga aktörer från att få åtkomst till koden och data från tävlingen.

Sponsorerna kommer att starta utmaningen nästa månad genom att först testa kvaliteten på de videor de skapade med de betalda skådespelarna. Schroepfer sa att Facebook investerar mer än 10 miljoner dollar för att finansiera ansträngningen. Företaget själv planerar också att delta i utmaningen, men kommer inte att acceptera något ekonomiskt pris om det vinner.

Relaterade Artiklar

Back to top button