En række virksomheder inkl Microsoft і Facebook, og endda forskere fra University of Southern California, udvikler teknologier til at bekæmpe deepfakes og forhindre deres spredning af gule medier og misinformation generelt. En gruppe videnskabsmænd formåede dog stadig at bedrage dem.
Et team af dataloger ved University of California, San Diego advarede om, at det stadig er muligt at narre eksisterende deepfake-detektionssystemer ved at indsætte inputdata kaldet "konkurrerende eksempler" i hver videoramme. Forskerne præsenterede deres resultater på WACV 2021 Computer Vision Conference, der blev afholdt online i sidste måned.
Konkurrerende eksempler er let ændrede input, der får kunstige intelligenssystemer, såsom maskinlæringsmodeller, til at lave fejl. Derudover viste holdet, at angrebet stadig virker efter at have komprimeret videoen. I videoen ovenfor viser forskerne, at XceptionNet, en deepfake detektor, mærker deres konkurrerende video som "rigtig".
De fleste af disse detektorer fungerer ved at spore ansigter i en video og sende de beskårne ansigtsdata til et neuralt netværk til analyse. Det neurale netværk vil derefter analysere disse data og finde elementer, der normalt er dårligt gengivet i deepfakes, såsom flimmer.
Ved at indsætte konkurrerende eksempler fandt forskerne ud af, at de kunne narre disse deepfake-detektorer til at tro, at videoerne var ægte.
De udtaler i avisen, at "for at bruge disse deepfake-detektorer i praksis, er det vigtigt at evaluere dem mod en adaptiv modstander, der er opmærksom på denne beskyttelse og bevidst forsøger at bryde den. Vi viser, at moderne deepfake-detektionsmetoder nemt kan omgås, hvis angriberen er helt eller endda delvist opmærksom på detektoren."
Som disse videnskabsmænd har vist, er de automatiseringsteknologier, der udvikles til at bekæmpe desinformation, muligvis endnu ikke op til opgaven.
Læs også: