Facebook, Microsoft startar tÀvling för att upptÀcka Deepfake-videor

Facebook, Microsoft startar tÀvling för att upptÀcka Deepfake-videor

Facebook och Microsoft sponsrar tillsammans en tĂ€vling med fokus pĂ„ att upptĂ€cka AI-genererade “deepfake” -videor.

Deepfake Detection Challenge kommer att pÄgÄ frÄn oktober till nÀsta mars med mÄlet att utveckla nya system som kan identifiera nÀr ett videoklipp faktiskt Àr en produkt av AI-algoritmer.

Även om doktorerade bilder inte Ă€r nĂ„got nytt, tar tekniken bakom deepfakes tricket till en helt ny nivĂ„; tack vare dagens maskininlĂ€rningsprogram kan du byta nĂ„gons ansikte mot ett annat, eller ta befintliga bilder och manipulera motivets lĂ€ppar för att sĂ€ga nĂ„got annat. Resultaten kan producera bilder och video som ser förvĂ„nansvĂ€rt verkliga ut, men som faktiskt Ă€r fiktion.

“MĂ€nniskor har manipulerat bilder nĂ€stan sĂ„ lĂ€nge som fotografering har funnits. Men det Ă€r nu möjligt för nĂ€stan vem som helst att skapa och förmedla förfalskningar till en masspublik”, sĂ€ger Antonio Torralba, professor vid MIT, i ett uttalande. Andra algoritmer kan övertygande klona din röst sĂ„ att den sĂ€ger vad programmeraren vill. Det Ă€r dĂ€rför som alla, inklusive amerikanska lagstiftare, Ă€r oroliga för att tekniken bakom djupa förfalskningar riskerar att lura allmĂ€nheten en dag.

ӀndĂ„ har branschen inte en stor datamĂ€ngd eller riktmĂ€rke för att upptĂ€cka dem, sĂ€ger Facebooks teknologchef Mike Schroepfer i dagens tillkĂ€nnagivande. för att upptĂ€cka djupa förfalskningar. “

Andra medsponsorer av tÀvlingen inkluderar akademiker vid sju universitet och branschhandelsgruppen, Partnership on AI, som hjÀlper till att övervaka utmaningen.

TÀvlingen fungerar sÄ hÀr: En grupp betalda skÄdespelare har anstÀllts för att skapa en uppsÀttning videor. NÀr de vÀl har spelats in planerar Microsoft, Facebook och de andra medsponsorerna att ta filmerna och manipulera dem med hjÀlp av de senaste AI-teknikerna för att skapa deepfakes.

Det blir dĂ„ upp till tĂ€vlingsdeltagarna att skapa program för att upptĂ€cka de tillverkade videorna. Bedömningen kommer att ske genom att sĂ€tta programmen mot djupfalsarna i en avskild “svart lĂ„da” -dator. Facebook, Microsoft och akademikerna planerar att utveckla en testmekanism som gör att deltagarnas effektiva sniffningsprogram blir effektiva.

TÀvlingen, som Àr öppen för alla, planerar att erbjuda bidrag och utmÀrkelser. Deltagarna mÄste emellertid gÄ igenom en screeningprocess och komma överens om vissa villkor för att anvÀnda videodata, som ett skydd mot dÄliga aktörer frÄn att fÄ Ätkomst till koden och data frÄn tÀvlingen.

Sponsorerna kommer att starta utmaningen nÀsta mÄnad genom att först testa kvaliteten pÄ de videor de skapade med de betalda skÄdespelarna. Schroepfer sa att Facebook investerar mer Àn 10 miljoner dollar för att finansiera anstrÀngningen. Företaget sjÀlv planerar ocksÄ att delta i utmaningen, men kommer inte att acceptera nÄgot ekonomiskt pris om det vinner.