Kan Deepfake Fool ansiktsigenkänning? En ny studie säger ja!

Deepfakes och AI-genererade videor är här för att stanna. Men under de senaste åren har de ökat i kvalitet och kvantitet, vilket får många att oroa sig för nationell säkerhet och personlig integritet.

Ändå, oavsett hur hårt anonyma onlineanvändare försökte göra sin falska video realistisk, kunde de aldrig komma förbi avancerad programvara för ansiktsigenkänning. Tills nu.

Lurande API: er för ansiktsigenkänning

Forskare vid Sungkyunkwan University i Suwon, Sydkorea, testat kvaliteten nuvarande deepfake -teknik. De testade både Amazon och Microsoft API: er med hjälp av öppen källkod och vanligt förekommande program för att skapa video för att se hur bra de fungerar.

Forskarna använde ansikten från Hollywood -kändisar. För att skapa rejäla djupfaker behöver programvaran många högkvalitativa bilder från olika samma personers vinklar, som är mycket lättare att förvärva av kändisar istället för vanliga människor.

Forskarna bestämde sig också för att använda Microsoft och Amazons API som riktmärken för sin studie eftersom båda företagen erbjuder kändisers ansiktsigenkänningstjänster. De använde offentligt tillgängliga datauppsättningar och skapade drygt 8 000 deepfakes. Från varje deepfake -video extraherade de flera ansiktsbilder och skickade det till API: erna är ifrågasatta.

Med Microsofts Azure Cognitive Services kunde forskarna lura systemet 78 procent av tiden med hjälp av deepfakes. Amazons resultat var något bättre, med 68 procent av de inlämnade ansikten som identifierades som verkliga.

Hur är det med Deepfake -detektorer?

Deepfake -detektorer fungerar mer eller mindre på samma sätt som deepfake. Detektorerna är en programvara som har tränats med hjälp av maskininlärningsmodeller om hur man upptäcker deepfake -videor.

Men istället för att fokusera på att skapa en hyperrealistisk video för att lura detektorerna, kan deepfakes nu inkludera motsatta exempel i varje ram för att förvirra AI-systemet. Faktum är att deepfake -attacker av den här typen har framgångar från 78 till 99 procent.

Det blir värre

Deepfakes är en maskininlärningsprogram. För att skapa en som till och med är överlägset övertygande behöver du hundratals bilder av samma persons ansikte från olika vinklar och med olika känslor.

På grund av behovet av massiva mängder data skulle man kunna tro att bara människor med en stor närvaro online är i fara, som kändisar och politiker. Men så är det inte längre.

Enligt Deeptrace ökade antalet deepfakes online med 330 procent på under ett år - från oktober 2019 till juni 2020. För att inte tala om, programvaran och algoritmerna som deepfake -tillverkare använder blir starkare och lättare tillgängliga och tillgängliga.

Vem är i riskzonen för Deepfakes?

När deepfakes först blev mainstream, det primära oro var för integritet och nationell säkerhet. Folk fruktade att videofilmer av politiker och officiella regeringsarbetare inte längre kunde lita på.

Men även om det skulle vara oansvarigt att bortse från säkerhetsrisken som djupfake innebär, fann flera undersökningar att djupfake -tillverkare inte är så intresserade av att störa politiken än. Majoriteten av deepfakes -videor online kan delas in i två kategorier: roliga videor av kändisintervjuer och filmer och pornografiskt material.

Medan den senaste studien genomfördes med kändisansikten för att säkerställa att djupfakerna var av hög kvalitet för att lura API: erna, betyder det inte att du inte kan göra djupfaker med mindre data. Visst, de kanske inte har en chans att lura avancerade ansiktsigenkänningssystem, men de kan vara tillräckligt övertygande för att lura andra människor.

Numera kan djupt förfalskningar av alla med social närvaro göras övertygande. Allt de behöver är några foton på dig och kanske en video du visas i. Den resulterande deepfake kan ha låg kvalitet, men det är fortfarande genomförbart och kan vara skadligt.

Framtiden är fortfarande okänd

Det finns många motsägelsefulla förutsägelser om tillståndet för djupfake, eftersom de inte försvinner när som helst snart.

Vissa förväntar sig en apokalyptisk cyber -framtid där du inte kan lita på någon film du stöter på online. Andra är mer optimistiska, jämför djupfake med animering och säger att det kan ha en framtid inom innehållsproduktion.

Hur du skyddar dig från Deepfake -videor

Deepfakes blir allt vanligare. Så här kan de hota din integritet på nätet och hur du undviker att bli intagen.

Läs Nästa

Om författaren