Artificiell intelligens (AI) har potential att förändra vårt samhälles natur. Och om de AI-verktyg vi för närvarande har till vårt förfogande är någon indikation på vad som komma skall, har vi mycket att se fram emot.
Vi har också mycket att akta oss för. Nämligen beväpningen av AI av cyberkriminella och andra hotaktörer. Detta är inte ett teoretiskt problem, och inte ens AI-bildgeneratorer är immuna mot missbruk.
Vad är AI-bildgeneratorer? Hur fungerar de?
Om du någonsin har använt en AI-bildgenerator har du en ganska bra uppfattning om vad de handlar om. Även om du aldrig har använt en så har du med största sannolikhet stött på AI-genererade bilder på sociala medier och på andra ställen. Mjukvaran som är populär idag fungerar på en mycket enkel princip: användaren skriver in texten, och AI: n genererar en bild utifrån den texten.
Det som händer under huven är mycket mer komplext. AI har blivit mycket bättre de senaste åren, och det mesta
text-till-bild-generatorer nuförtiden är så kallade diffusionsmodeller. Det betyder att de "tränas" under lång tid på oerhört många texter och bilder, vilket är det som gör deras skapelser så imponerande och förbluffande realistiska.Det som gör dessa AI-verktyg ännu mer imponerande är det faktum att de inte bara modifierar befintliga bilder eller kombinerar tusentals bilder till en, utan också skapar nya, originalbilder från grunden. Ju fler människor använder dessa text-till-bild-generatorer, desto mer information matas de och desto bättre blir deras skapelser.
Några av de mest kända AI-bildgeneratorer är Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor och Craiyon. Nya dyker upp till vänster och höger, och teknikjättar – inklusive Google – släpper sina egna, så vi kan bara spekulera i vad framtiden kommer att ge.
4 Ways Threat Actors vapenar AI-bildgeneratorer
Som i stort sett all teknik kan AI-bildgeneratorer missbrukas av illvilliga skådespelare. Egentligen används de redan för alla typer av skändliga syften. Men exakt vilken typ av bedrägerier och cyberattacker kan en kriminell utföra med hjälp av AI-bildgeneratorer?
1. Social ingenjörskonst
En uppenbar sak som hotaktörer kan göra med AI-bildgeneratorer är engagera sig i social ingenjörskonst; till exempel skapa falska sociala medieprofiler. Vissa av dessa program kan skapa otroligt realistiska bilder som ser ut precis som äkta fotografier av riktiga människor, och en bedragare kan använda dessa falska sociala medieprofiler för catfishing.
Till skillnad från riktiga människors foton kan AI-genererade bilder inte upptäckas via omvänd bildsökning, och cyberbrottslingen behöver inte arbeta med en begränsat antal fotografier för att nå sitt mål – med hjälp av AI kan de generera så många de vill och bygga en övertygande onlineidentitet från repa.
Men det finns verkliga exempel på hotaktörer som använder AI-bildgeneratorer för att lura människor. I april 2022, TechTalks bloggaren Ben Dickinson fick ett mejl från en advokatbyrå som hävdade att han hade använt en bild utan tillstånd. Advokaterna mailade ett DMCA-meddelande om upphovsrättsintrång och berättade för Dickinson att han måste länka tillbaka till en klient till deras, eller ta bort bilden.
Dickinson googlade advokatbyrån och hittade den officiella hemsidan. Det hela verkade helt legitimt; sajten hade till och med bilder på 18 advokater, komplett med deras biografier och meriter. Men inget av det var verkligt. Alla bilderna genererades av AI och de förmodade upphovsrättsintrångsmeddelandena skickades ut av någon som vill pressa bakåtlänkar från intet ont anande bloggare, som en del av ett oetiskt, svart hatt SEO (sökmotoroptimering) strategi.
2. Välgörenhetsbedrägerier
När förödande jordbävningar drabbade Turkiet och Syrien i februari 2023 uttryckte miljontals människor runt om i världen sin solidaritet med offren genom att donera kläder, mat och pengar.
Enligt en rapport från BBC, drog bedragare fördel av detta och använde AI för att skapa realistiska bilder och be om donationer. En bedragare visade AI-genererade bilder av ruiner på TikTok Live och bad sina tittare om donationer. En annan postade en AI-genererad bild av en grekisk brandman som räddade ett skadat barn från ruiner och bad sina följare om donationer i Bitcoin.
Man kan bara föreställa sig vilken typ av välgörenhetsbedrägerier kriminella kommer att köra med hjälp av AI i framtiden, men det är säkert att anta att de bara kommer att bli bättre på att missbruka denna programvara.
3. Deepfakes och desinformation
Regeringar, aktivistgrupper och tankesmedjor har länge varnat för detta farorna med deepfakes. AI-bildgeneratorer lägger till ytterligare en komponent till detta problem, med tanke på hur realistiska deras skapelser är. Faktum är att i Storbritannien finns det till och med en komedishow som heter Deep Fake Neighbour Wars som hittar humor i osannolika kändispar. Vad skulle hindra en desinformationsagent från att skapa en falsk bild och marknadsföra den på sociala medier med hjälp av bots?
Detta kan få verkliga konsekvenser, som det nästan gjorde i mars 2022, när en falsk video som föreställer Ukrainas president Volodymyr Zelensky som säger till ukrainare att kapitulera cirkulerade online, per NPR. Men det är bara ett exempel, för möjligheterna är nästan oändliga, och det finns otaliga sätt hotaktör kan skada någons rykte, främja en falsk berättelse eller sprida falska nyheter med hjälp av AI.
4. Annonsbedrägeri
TrendMicro Forskare upptäckte 2022 att bedragare använde AI-genererat innehåll för att skapa vilseledande annonser och marknadsföra skumma produkter. De skapade bilder som föreslog att populära kändisar skulle använda vissa produkter och körde annonskampanjer baserade på dessa bilder.
Till exempel, en annons för en "möjlighet för finansiell rådgivning" visade miljardären Elon Musk, Teslas grundare och VD. Naturligtvis rekommenderade Musk aldrig produkten i fråga, men de AI-genererade bilderna som visades fick det att verka så, förmodligen lockade intet ont anande tittare att klicka på annonserna.
AI och cybersäkerhet: ett komplext problem vi måste ta itu med
Framöver kommer statliga tillsynsmyndigheter och cybersäkerhetsexperter förmodligen att behöva arbeta tillsammans för att ta itu med det framväxande hotet från AI-driven cyberbrottslighet. Men hur kan vi reglera AI och skydda vanliga människor, utan att kväva innovation och begränsa digitala friheter? Den frågan kommer att skymmas i många år framöver.
Tills det finns ett svar, gör vad du kan för att skydda dig själv: kontrollera noga all information du ser online, undvik skumma webbplatser, använd säker programvara, håll dina enheter uppdaterade och lär dig att använda artificiell intelligens för din fördel.