Microsoft distribuerar ett Deepfake Detection Tool

Med tanke på hur deepfakes båda är potentiellt förödande för någons rykte och mycket svåra att upptäcka när de görs rätt, är de ett stort säkerhetsproblem. Nu syftar Microsoft till att stoppa djupa förfalskningar genom att släppa ett verktyg som kan upptäcka dem.

Hotet med djupa förfalskningar är så stort att det orsakade Facebook för att förbjuda allt djupt falskt innehåll. Det största hindret är dock hur djupa förfalskningar får se övertygande ut; som sådan är det mycket svårt att hitta och bekräfta en djupfalsning.

Facebook förbjuder Deepfakes och Photoshops

Facebook förbjuder deepfakes och Photoshopped-foton. Tanken är att ta bort manipulerade medier som är utformade för att lura användare.

Som rapporterats Microsoft om problemen, vill företaget ändra det med sitt nya verktyg. Det kallas Microsoft Video Authenticator, och det analyserar videor för att leta efter de "sömmar" som lämnats efter djupfals skapande. Dessa sömmar är osynliga för mänskliga ögon, men en dator kan upptäcka dem med ram-för-bild-analys.

För att förhindra att skadliga agenter omarbetar tekniken kommer Microsoft Video Authenticator inte att offentliggöras. Istället distribuerar Microsoft sitt system till nyheter och politiska organisationer. På det sättet kan dessa organisationer använda verktyget för att skilja det verkliga från det falska.

Microsoft har dock tillkännagett en andra teknik för att identifiera deepfakes. Företaget föreslår ett system där en innehållsskapare kan tagga sina videor med en unik "signatur". Om videon redigeras genererar den en annan signatur än originalet och identifierar således en djupfake.

Författaren till Deep Fakes and the Infocalypse, Nina Schick, sa följande:

Den enda riktigt utbredda användningen vi hittills har sett är pornografi mot kvinnor som inte samtycker till. Men syntetiska medier förväntas bli allestädes närvarande om cirka tre till fem år, så vi måste utveckla dessa verktyg framöver. Men eftersom detekteringsfunktionerna blir bättre, kommer också generationens kapacitet att bli - det är aldrig kommer att vara så att Microsoft kan släppa ett verktyg som kan upptäcka alla typer av video manipulation.

Deepfakes är ett betydande problem för mediets trovärdighet, och företag behöver ett sätt att berätta vad som är verkligt från vad som är fiktion. Microsoft har släppt ett verktyg för att hitta redigerade videor. Huruvida verktyget kommer att räcka för att hålla jämna steg med deepfake-utvecklare ska dock ännu inte ses.

Om du är osäker på vad deepfakes är och varför de betyder något, är det definitivt värt att ta lite tid att lära sig mer om dem. Deepfakes är redo att bli det här decenniets motsvarighet till "Photoshopping" -bilder och kan orsaka allvarliga skador om de används skadligt.

Deepfakes Explained: AI som gör falska videor för övertygande

AI-genererade falska videor undergräver helt vår förståelse av världshändelser. Här är hur deepfakes kan förändra allt.

Om författaren