Facebook beslutar att ta bort vilseledande Deepfakes

Facebook beslutar att ta bort vilseledande Deepfakes

Facebook har beslutat att klÀmma fast pÄ vad det beskriver som media som har manipulerats för att vilseleda. I synnerhet kommer djupa förfalskningar i rampljuset och Àr nu mycket mer benÀgna att tas bort frÄn det sociala nÀtverket.

I ett blogginlÀgg förklarar Monika Bickert, vice vd för Global Policy Management pÄ Facebook, hur de flesta median manipulationer utförs av godartade skÀl som att göra ljud tydligare pÄ en video. Deepfakes Àr emellertid en annan sak och kan skapas för att vilseleda.

Facebook kommer att ta bort sĂ„dant innehĂ„ll, men bara under vissa omstĂ€ndigheter. Om media har “redigerats eller syntetiserats – bortom justeringar för tydlighet eller kvalitet”, men pĂ„ ett sĂ€tt som inte Ă€r uppenbart för den genomsnittliga personen kommer det att flaggas. Det rĂ€cker dock inte ensam. Medierna mĂ„ste ocksĂ„ ha skapats med hjĂ€lp av AI eller maskininlĂ€rning som “slĂ„r samman, ersĂ€tter eller överlagrar innehĂ„ll till en video, vilket gör att det verkar vara autentiskt.”

InnehĂ„ll som Ă€r parodi, satir eller manipulerat “enbart för att utelĂ€mna eller Ă€ndra ordordningen” Ă€r undantaget och kommer inte att tas bort. Facebook kommer ocksĂ„ att fortsĂ€tta att genomdriva sina gemenskapsstandarder och anvĂ€nda ett nĂ€tverk av oberoende tredjeparts faktakontroll för att granska innehĂ„ll.

Om kriterierna för att ta bort vilseledande media verkar ganska restriktiva beror det pĂ„ att Facebook har gjort det medvetet. Företagets argument Ă€r: “Om vi ​​helt enkelt tog bort alla manipulerade videor som flaggats av faktakontrollörer som falska, skulle videoklippen fortfarande finnas tillgĂ€ngliga nĂ„gon annanstans pĂ„ internet eller sociala medier. Genom att lĂ€mna dem kvar och mĂ€rka dem som falska, tillhandahĂ„ller vi mĂ€nniskor med viktig information och sammanhang. “

Som Reuters rapporterar kommer Facebook: s klÀmma pÄ manipulerade medier inför de amerikanska valen nÀsta Är. Vi kommer sÀkert att se mÄnga djupa förfalskningar som försöker vilseleda vÀljarna inför november, som förhoppningsvis inte nu kommer att visas och delas pÄ Facebook. Men som ett exempel pÄ hur begrÀnsade Facebooks regler Àr förblir den redigerade videon av USA: s hustalare Nancy Pelosi som visar henne som osammanhÀngande slurring av hennes tal tillgÀngligt pÄ det sociala nÀtverket.

Facebook förklarar varför i ett uttalande och sĂ€ger “Den doktrerade videon av talaren Pelosi uppfyller inte kraven i denna policy och skulle inte tas bort. Endast videor som genereras av artificiell intelligens för att skildra mĂ€nniskor som sĂ€ger fiktiva saker kommer att tas bort … NĂ€r video av högtalare Pelosi rankades av en tredje part faktakontroll vi minskade dess distribution, och kritiskt, mĂ€nniskor som sĂ„g det, försökte dela det eller redan hade fĂ„tt varningar om att det var falskt. “