Vad är PhotoDNA och hur fungerar det?

Internet har gjort många saker enklare, från att hålla kontakten med vänner och familj till att få ett jobb och till och med arbeta på distans. Fördelarna med detta anslutna datorsystem är enorma, men det finns också en nackdel.

Till skillnad från nationalstater är internet ett globalt nätverk som ingen enskild regering eller myndighet kan kontrollera. Följaktligen hamnar olagligt material online, och det är otroligt svårt att förhindra att barn lider och fånga de ansvariga.

En teknik som samutvecklats av Microsoft som heter PhotoDNA är dock ett steg mot att skapa ett säkrare nätutrymme för både barn och vuxna.

Vad är PhotoDNA?

PhotoDNA är ett bildidentifieringsverktyg, som först utvecklades 2009. Även om den främst är en Microsoft-backad tjänst, utvecklades den av professor Hany Farid från Dartmouth College, en expert på digital fotoanalys. Syftet med PhotoDNA är att identifiera olagliga bilder, inklusive material för sexuellt övergrepp mot barn, allmänt känt som CSAM.

I takt med att smartphones, digitalkameror och höghastighetsinternet har blivit vanligare, så har mängden CSAM hittats online. I ett försök att identifiera och ta bort dessa bilder, tillsammans med annat olagligt material, innehåller PhotoDNA -databasen miljontals poster för kända bilder av övergrepp.

Microsoft driver systemet och databasen underhålls av det amerikanska National Center for Missing & Exploited Children (NCMEC), en organisation som ägnar sig åt att förebygga övergrepp mot barn. Bilder tar sig till databasen när de har rapporterats till NCMEC.

Även om det inte är den enda tjänsten som söker efter kända CSAM, är PhotoDNA en av de vanligaste metoderna, inklusive många digitala tjänster som Reddit, Twitter och de flesta produkter som ägs av Google.

PhotoDNA måste fysiskt installeras på plats under de första dagarna, men Microsoft driver nu den molnbaserade PhotoDNA Cloud-tjänsten. Detta gör att mindre organisationer utan en omfattande infrastruktur kan genomföra CSAM -upptäckt.

Hur fungerar PhotoDNA?

När internetanvändare eller brottsbekämpande myndigheter stöter på övergreppsbilder rapporteras de till NCMEC via CyberTipline. Dessa är katalogiserade och informationen delas med brottsbekämpning om det inte redan var det. Bilderna laddas upp till PhotoDNA, som sedan börjar skapa en hash eller digital signatur för varje enskild bild.

För att komma till detta unika värde konverteras fotot till svartvitt, uppdelat i rutor, och mjukvaran analyserar den resulterande skuggningen. Den unika hash läggs till i PhotoDNAs databas, delad mellan fysiska installationer och PhotoDNA Cloud.

Programvaruleverantörer, brottsbekämpande myndigheter och andra pålitliga organisationer kan implementera PhotoDNA -skanning i sina produkter, molnprogram eller andra lagringsmedier. Systemet skannar varje bild, konverterar den till ett hashvärde och jämför den med CSAM -databasens hash.

Om en matchning hittas larmas den ansvariga organisationen och detaljerna skickas vidare till brottsbekämpande för åtal. Bilderna tas bort från tjänsten och användarens konto avslutas.

Det är viktigt att ingen information om dina foton lagras, tjänsten är helt automatiserad utan mänskligt engagemang och du kan inte återskapa en bild från ett hashvärde.

Sedan 2015 har organisationer också kunnat använda PhotoDNA för att analysera videor.

I augusti 2021 bröt Apple steget med de flesta andra Big Tech -företag och meddelade att de skulle använda sina egna tjänst för att skanna användarens iPhones efter CSAM.

Förståeligt nog fick dessa planer betydande bakslag för att de tycktes bryta mot företagets integritetsvänliga hållning, och många människor oroade sig för att skanningen gradvis skulle inkludera icke-CSAM, så småningom leder till en bakdörr för lag tillämpning.

Använder PhotoDNA ansiktsigenkänning?

Dessa dagar är vi tillräckligt bekanta med algoritmer. Dessa kodade instruktioner visar oss relevanta, intressanta inlägg i våra sociala medier, stöder ansiktsigenkänningssystem och bestämmer till och med om vi erbjuds en anställningsintervju eller går på college.

Du kanske tror att algoritmer skulle vara kärnan i PhotoDNA, men att automatisera bilddetektering på detta sätt skulle vara mycket problematiskt. Till exempel skulle det vara otroligt invasivt, skulle kränka vår integritet, och det är inte att nämna att algoritmer inte alltid är rätt.

Google har till exempel haft väldokumenterade problem med sitt program för ansiktsigenkänning. När Google Foto först lanserades felkategoriserade det offensivt svarta människor som gorillor. I mars 2017 fick en tillsynskommitté höra att vissa algoritmer för ansiktsigenkänning hade fel 15 procent av tiden och mer sannolikt skulle missidentifiera svarta människor.

Dessa typer av maskininlärningsalgoritmer blir allt vanligare men kan vara utmanande att övervaka på lämpligt sätt. Programvaran fattar effektivt sina egna beslut, och du måste omarbeta hur det kom fram till ett specifikt resultat.

Med tanke på vilken typ av innehåll PhotoDNA letar efter kan effekten av felidentifiering vara katastrofal. Lyckligtvis förlitar systemet sig inte på ansiktsigenkänning och kan bara hitta föridentifierade bilder med en känd hash.

Använder Facebook PhotoDNA?

Som ägare och operatör av världens största och mest populära sociala nätverk hanterar Facebook mycket användargenererat innehåll varje dag. Även om det är svårt att hitta tillförlitliga, aktuella uppskattningar, analys 2013 föreslog att cirka 350 miljoner bilder laddas upp till Facebook varje dag.

Detta kommer sannolikt att bli mycket högre nu eftersom fler människor har anslutit sig till tjänsten, företaget driver flera nätverk (inklusive Instagram och WhatsApp), och vi har lättare tillgång till smarttelefonkameror och pålitliga internet. Med tanke på sin roll i samhället måste Facebook minska och ta bort CSAM och annat olagligt material.

Lyckligtvis tog företaget upp detta tidigt och valde Microsofts PhotoDNA -tjänst 2011. Sedan tillkännagivandet för mer än ett decennium sedan har det funnits få uppgifter om hur effektivt detta har varit. Dock, 91 procent av alla rapporter om CSAM under 2018 var från Facebook och Facebook Messenger.

Gör PhotoDNA Internet säkrare?

Den Microsoft-utvecklade tjänsten är utan tvekan ett viktigt verktyg. PhotoDNA spelar en avgörande roll för att förhindra att dessa bilder sprids och kan till och med hjälpa barn i riskzonen.

Huvudfelet i systemet är dock att det bara kan leta efter i förväg identifierade bilder. Om PhotoDNA inte har en hash lagrad, kan den inte identifiera kränkande bilder.

Det är lättare än någonsin att ta och ladda upp högupplösta bilder på nätet, och missbrukarna är det alltmer tar till säkrare plattformar som Dark Web och krypterade meddelandeprogram för att dela olagligt material. Om du inte har stött på Dark Web tidigare är det värt att läsa om riskerna med internetets dolda sida.

Är den mörka webben olaglig?

Kriminell verksamhet kan hittas via darknets, men är det faktiskt olagligt att gå på den mörka webben?

Läs Nästa

Om författaren