Artificiell intelligens och maskininlärning kan göra underverk, från att skapa konst till att automatisera administratörsjobb. Men de är också en risk eftersom de kan ge dåliga skådespelare med tricks som deepfake.

När just denna teknik utvecklas är det en bra idé att lära sig hur deepfakes faktiskt fungerar och vem som ens skulle vilja använda dem – både legitimt och olagligt.

Varför det är viktigt att förstå hur och varför Deepfakes används

Mainstream-applikationer av deepfake-teknologi kretsar främst kring roliga, pornografiska eller filmiska material, men en studie visade att deepfakes kan lura ansiktsigenkänning. Bara detta är en anledning att oroa sig och vara på vakt.

Ju mer tekniken används i vardagen och storskaliga projekt, desto bättre lär sig utvecklarna att skapa sömlösa falska videor av människor, oavsett om det är kändisar eller familjemedlemmar.

Förståelse hur du skyddar dig från deepfake-videor är ett måste nu, med tanke på hur ivrigt industrier tar till sig teknikens förmåner, särskilt inom underhållning.

instagram viewer

Hollywood använde det på flera projekt långt tidigare Metafysiks djupfalska AGT-inlägg, som visade världen hur snabbt och effektivt deepfake-skapande kan vara. Här är vad processen innebär.

Hur fungerar Deepfakes?

När det gäller vad som ligger bakom deepfakes, finns en ledtråd i namnet: deep learning, vetenskapen om artificiella neurala nätverk (ANN). Vad dessa gör för djupfalska algoritmer är att absorbera data, lära av dem och skapa ny data i form av ansiktsuttryck eller ett helt ansikte ovanpå ditt.

Utvecklare av deepfake-programvara använder vanligtvis en av två ANN-typer: autoencoders eller generative adversarial networks (GAN).

Autokodare lär sig att replikera massorna av data som de matas, främst foton av ansikten och uttryck, och återskapa begärda datauppsättningar. De är dock sällan exakta kopior.

GAN, å andra sidan, har ett smartare system, som inkluderar en generator och en diskriminator. Den förra reproducerar data som den har lärt sig till deepfakes som sedan måste lura den senare.

Diskriminatorn jämför generatorns skapelser mot verkliga bilder och avgör deras effektivitet. De bästa deepfakes är naturligtvis de som perfekt efterliknar mänskligt beteende.

Så, hur görs deepfakes med denna teknik? Algoritmerna bakom appar som Återvända och DeepFaceLab lära sig hela tiden av data som går igenom dem så att de effektivt kan justera ansiktsdrag och uttryck eller lägga ett ansikte över ett annat.

Mjukvaran är i grunden en videoredigerare speciellt utformad för att manipulera ansikten. Vissa appar är mer komplexa än andra, men allt som allt kan du göra allt från att åldra någon upp eller ner till att redigera dig själv till filmer.

Men tekniken har fortfarande brister. Deepfake-skapande kan vara mer komplicerat än hur falska livevideor görs, men det kan vara lika enkelt att upptäcka som falskt.

Hur man upptäcker en Deepfake

Eftersom deepfakes huvudsakligen tillverkas av maskiner, ser det digitala ansiktets egenskaper eller sätt inte alltid naturliga ut. Det kan också finnas fel i videons inställningar. Med andra ord kan du berätta falska bilder om du vet vad du ska leta efter.

Här är några kontrolltecken:

  • Onaturligt blinkande: Maskininlärning förbiser ofta ögonblinkande eller får det att se besvärligt ut.
  • Suddiga eller instabila funktioner: Någons hår, mun eller haka kan vara något suddigt eller röra sig på konstiga, ofta överdrivna, sätt.
  • Brist på eller felaktig framställning av känslor: Dåliga deepfakes är oberäkneliga eller härmar känslor dåligt.
  • Obehagligt kroppsspråk: Om personen i videon rör på huvudet eller kroppen på ett förvrängt eller osammanhängande sätt, kan det vara en deepfake.
  • Fel färger och belysning: Missfärgningar, oförklarliga ljus och skuggor är säkra tecken på en falsk video.
  • Inkonsekventa föremål: När du justerar en video kan deepfake-programvara göra misstag, som att ändra formen på kläder, smycken och bakgrundsföremål.
  • Dåligt ljud: Deepfakes kan förvränga tal och ljud i en video.

Göra det bästa av sätt att upptäcka deepfakes genom att lära dig vad sådana videor vanligtvis är gjorda för och ägna stor uppmärksamhet åt detaljerna i materialet du ser online – sakta ner det, om möjligt.

Dessutom utvecklas fler och fler verktyg, som Microsoft Authenticator och Sensity's Forensic Deepfake Detection, som analyserar videor på minutnivå.

Vem använder Deepfakes?

Filmskapare använder allt oftare deepfakes för att åldras eller ersätta skådespelares ansikten, som i Star Wars. Konstnärer lyckas animera porträtt och få dem att prata och sjunga.

Marknadsförare experimenterar med deepfake-teknik för reklaminnehåll som inte kräver att man anställer skådespelare. Företag som WPP tillämpar det också på sina träningsvideor.

Tekniker skapar i allmänhet roliga videor där de byter ansikten med vänner eller lägger en skådespelare över en annan i populära filmer. Sylvester Stallone har tagit över Home Alone, och Heath Ledgers Joker dök upp i A Knight's Tale.

Tyvärr, om du utforskar vad mer deepfake-teknik används till, hittar du massor av skadliga fall. Deepfake-tillverkare gillar att sprida desinformation och stötande meddelanden, samt rikta in sig på kändisar och sätta dem i vuxenfilmer. Människor utpressas till och med med falska filmer.

I sin nuvarande otyglade form är deepfake synonymt med risk för människors integritetsrättigheter, säkerhet, och till och med upphovsrätt, till exempel när algoritmen helt klart använder ett foto eller konstverk som inte är offentligt tillgängliga.

Det är därför länder och varumärken sätter ner foten. Från och med 2021, enligt Cyber ​​Civil Rights Initiatives karta av djupfalska lagar i USA slår nu fyra stater ner på publicerade djupfalska videor som skildrar någon på ett explicit eller på annat sätt skadligt sätt.

Kina vidtar också åtgärder för att kriminalisera djupförfalskningar som skadar människor och samhälle, antingen genom att kränka individuella rättigheter eller sprida falska nyheter. Även Meta meddelade 2020 att vilseledande, manipulerade videor inte var välkomna.

Utöver reglering arbetar officiella organ över hela världen för bättre upptäckt och förebyggande av deepfake-brott. De Rathenau Instituuts rapport om hur europeisk politik bör hantera deepfakes stöder programvara med verktyg som högtalare och ansiktsigenkänning, detektering av röstliv och analys av ansiktsdrag.

Lär dig hur Deepfakes fungerar för att vilseleda dig

Deepfakes har redan blivit mainstream, på gott och ont. Så njut av de roliga och inspirerande videorna medan du förbereder dig för att ta itu med eventuella skadliga.

I slutet av dagen, vad är en deepfake som denna, men ett verktyg utformat för att lura dig? Om du vet vad du ska leta efter och hur du ska reagera har den mindre makt över dig.

Du kommer till exempel att kunna upptäcka deepfakes på sociala medier tillsammans med falska nyheter och konton och undvika desinformation, nätfiskeförsök och mer. I takt med att tekniken för deepfake-detektering och förebyggande förbättras kommer mer stöd att komma i din väg.