Vem har inte använt ChatGPT vid det här laget? Det är roligt, helt fascinerande om du har något intresse för artificiell intelligens, och gratis (för nu).
Även om det vanligtvis beskrivs som en chatbot, är ChatGPT mycket mer än så. Den kan generera kopior, förklara komplexa ämnen, fungera som översättare, komma med skämt och skriva kod. Men det kan också beväpnas av hotaktörer.
Hur ChatGPT fungerar och varför det är attraktivt för cyberkriminella
ChatGPT (Generative Pre-trained Transformer) utvecklades av forskningslaboratoriet för artificiell intelligens OpenAI och lanserades i november 2022. Det är en stor språkmodell som använder en kombination av övervakade och förstärkande maskininlärningstekniker.
Kanske ännu viktigare är att ChatGPT ständigt finjusteras och tränas av användare, som antingen kan rösta upp eller rösta ned dess svar, vilket gör det ännu mer exakt och kraftfullt, eftersom det samlar in data på egen hand.
Det är det som skiljer ChatGPT från andra chatbots. Och om du någonsin har använt den vet du att skillnaden märks direkt: till skillnad från andra liknande produkter kan den delta aktivt i en konversation och slutföra komplexa uppgifter med otrolig noggrannhet, samtidigt som du levererar sammanhängande och människoliknande svar.
Om du fick se en kort uppsats skriven av en människa, och en skriven av ChatGPT, skulle du förmodligen kämpa för att avgöra vilken som är vilken. Som ett exempel, här är en del av texten ChatGPT genererade när han uppmanades att skriva en kort uppsats om The Catcher in the Rye.
Detta är inte att säga att ChatGPT inte har sina begränsningar – det har den absolut. Ju mer du använder det, desto mer kommer du att märka att detta är fallet. Hur kraftfull den än är kan den fortfarande kämpa med elementär logik, göra misstag, dela falska och vilseledande information, misstolka instruktioner på ett komiskt sätt och manipuleras till att rita fel slutsats.
Men ChatGPT: s kraft ligger inte i dess förmåga att konversera. Snarare ligger det i dess nästan obegränsade kapacitet att utföra uppgifter i massor, mer effektivt och mycket snabbare än en människa kunde. Med rätt ingångar och kommandon, och några kreativa lösningar, kan ChatGPT förvandlas till ett oroväckande kraftfullt automatiseringsverktyg.
Med det i åtanke är det inte svårt att föreställa sig hur en cyberkriminell skulle kunna beväpna ChatGPT. Allt handlar om att hitta rätt metod, skala den och få AI: n att slutföra så många uppgifter som möjligt på en gång, med flera konton och på flera enheter om det behövs.
5 saker som hotskådespelare kan göra med ChatGPT
Det finns redan några verkliga exempel på att ChatGPT används av hotaktörer, men det är fler det är sannolikt att det beväpnas på ett antal olika sätt, eller kommer att bli det någon gång under framtida. Här är fem saker som hackare kan göra (och förmodligen gör) med ChatGPT.
1. Skriv skadlig programvara
Om ChatGPT kan skriva kod kan den skriva skadlig kod. Ingen överraskning där. Men detta är inte bara en teoretisk möjlighet. I januari 2023 upptäckte cybersäkerhetsföretaget Check Point Research att cyberbrottslingar redan är använder ChatGPT för att skriva skadlig programvara– och skryter om det på underjordiska forum.
Hotaktören Check Point Research upptäckte använde den avancerade chatboten ganska kreativt för att återskapa Python-baserad skadlig kod som beskrivs i vissa forskningspublikationer. När forskare testade det skadliga programmet talade cyberbrottslingen sanningen: hans ChatGPT-genererade skadliga program gjorde precis vad den var designad för att göra.
2. Generera nätfiske-e-postmeddelanden
Så kraftfulla som spamfilter har blivit, farliga nätfiske-e-postmeddelanden fortfarande glider mellan stolarna, och det finns inte mycket en genomsnittlig person kan göra förutom att rapportera avsändaren till sin leverantör. Men det finns mycket som en kapabel hotaktör kan göra med en e-postlista och tillgång till ChatGPT.
Med rätt kommandon och förslag kan ChatGPT generera övertygande nätfiske-e-postmeddelanden, potentiellt automatisera processen för hotaktören och tillåta dem att skala sin verksamhet.
3. Bygg bluffwebbplatser
Om du bara Googlar på termen "bygga en webbplats med ChatGPT", hittar du ett gäng handledningar som förklarar i detalj hur du gör just det. Även om detta är goda nyheter för alla som vill skapa en webbplats från början, är det också bra nyheter för cyberbrottslingar. Vad hindrar dem från att använda ChatGPT för att bygga en massa bluffwebbplatser eller nätfiske-målsidor?
Möjligheterna är nästan oändliga. En hotaktör kan klona en befintlig webbplats med ChatGPT och sedan modifiera den, bygga falska e-handelswebbplatser, köra en webbplats med scareware-bedrägerier, och så vidare.
4. Skapa skräppostinnehåll
För att skapa en falsk webbplats, köra en bluffsida på sociala medier eller bygga en copycat-webbplats behöver du innehåll – mycket av det. Och det måste se så legitimt ut som möjligt för att bluffen ska fungera. Varför skulle en hotaktör anställa innehållsskribenter eller skriva blogginlägg på egen hand, när de bara kan låta ChatGPT göra det åt dem?
Visst, en webbplats med AI-genererat innehåll skulle sannolikt bli straffad av Google ganska snabbt och inte visas i sökresultaten, men det finns många olika sätt på vilka en hackare kan marknadsföra en webbplats, skicka trafik till den och lura människor på sina pengar eller stjäla deras personliga information.
5. Sprid desinformation och falska nyheter
Desinformation online har blivit en stor fråga de senaste åren. Falska nyheter spreds som en löpeld på sociala medier, och människor som inte vet bättre faller ofta för vilseledande – och ibland bokstavligen påhittade – berättelser. Detta kan få fruktansvärda verkliga konsekvenser, och det verkar som om ingen har någon aning om hur man ska sluta spridningen av falska nyheter utan att bryta mot lagar om yttrandefrihet.
Verktyg som ChatGPT kan förvärra detta problem. Hotaktörer som har tillgång till programvara som kan generera tusentals falska nyheter och inlägg på sociala medier varje dag verkar vara ett recept på katastrof.
Ta inte vårt ord för det
Om du inte är övertygad frågade vi ChatGPT hur en cyberbrottsling skulle använda det. Det verkar stämma överens med kärnan i denna artikel.
I fel händer blir ChatGPT farligt
Man kan bara föreställa sig vilken artificiell intelligens som kommer att vara kapabel till fem eller tio år från nu. För närvarande är det bäst att ignorera hajpen och paniken och bedöma ChatGPT rationellt.
Som all teknik är ChatGPT varken till sin natur hjälpsam eller skadlig. Trots vissa brister är det den överlägset mest kapabla chatboten som någonsin släppts till allmänheten.
