OpenAI: s nya ChatGPT AI-drivna chatbot används av cyberkriminella för att skriva skadlig programvara och förbättra verksamheten.
Ny AI-driven ChatBot används för att skriva skadlig programvara
Cybersäkerhetsexperter från Check Point Research har hittat hackare som använder ChatGPT-chatboten för att skriva skadlig kod och förbättra cyberbrottsverksamheten.
Den 30 november 2022 lanserade OpenAI sin egen chatbot känd som ChatGPT. Den här chatboten kan kommunicera med användare, men det tog inte lång tid efter lanseringsdatumet för cyberbrottslingar att börja missbruka den här boten.
I en Check Point Research-inlägg, skrevs det att forskare hade hittat en tråd med namnet "ChatGPT – Benefits of Malware" på ett hackingforum. Författaren verkade "experimentera med ChatGPT för att återskapa skadliga stammar och tekniker beskrivs i forskningspublikationer och artiklar om vanliga skadliga program", och delade ett exempel på deras arbete; en Python-baserad stjälare som "söker efter vanliga filtyper, kopierar dem till en slumpmässig mapp inuti Temp-mappen, zippar dem och laddar upp dem till en hårdkodad FTP-server."
Check Point Research varnade allmänheten på Twitter och sa att "missbruket av #ChatGPT är inte längre teoretiskt".
Check Point Research har verifierat författarens påståenden
Efter att ha utvärderat skriptexemplet för skadlig programvara som gavs i inlägget om hackingforum, fastställde Check Point Research att det var legitimt.
Det visade sig att denna specifika stam av skadlig programvara kan söka efter tolv vanliga filtyper, inklusive PDF-filer, Microsoft Office-dokument och bilder. Om skadlig programvara upptäcker några potentiellt värdefulla filer kopieras och zippas de. Skadlig programvara skickas sedan de kopierade filerna via en onlineanslutning.
Check Point Research noterade också att skadlig programvara inte krypterade de kopierade filerna eller skickade dem säkert, vilket innebär att de kan hamna i händerna på tredje part.
ChatDPT används för ytterligare olagliga aktiviteter
Check Point Research konstaterade också i det tidigare nämnda inlägget att hotaktörer kan använda ChatGPT för andra kriminella aktiviteter. En ytterligare diskussion, med titeln "Abusing ChatGPT to create Dark Web Marketplaces scripts", hittades av Check Point Research, där författaren visade hur enkelt det är att skapa en Dark Web-marknadsplats med hjälp av ChatGPT."
I tråden publicerade författaren kod som kan ta emot levande kryptovalutapriser med hjälp av ett tredjeparts-API. Detta bidrog sedan till kryptobaserade betalningssystem som ofta används på den mörka webben.
Check Point Research drog slutsatsen att "Det är fortfarande för tidigt att avgöra om ChatGPT-funktionerna kommer att bli det nya favoritverktyget eller inte för deltagare i Dark Web." Företaget kommer att fortsätta att övervaka den olagliga användningen av ChatGPT under 2023 för att se hur saker och ting fungerar ut.
Artificiell intelligens kan fortsätta att utnyttjas av cyberkriminella
När artificiell intelligens fortsätter att utvecklas är det troligt att hotaktörer kommer att fortsätta att söka nya sätt att missbruka den. Tiden får utvisa om ChatGPT blir populärt bland cyberkriminella, eller om ett annat AI-baserat verktyg kommer att ta kakan.