7 sätt cyberbrottslingar använder AI för romanska bedrägerier

Nätdejtingappar har alltid varit en grogrund för romantikbedrägerier. Cyberbrottslingar går utöver för att stjäla pengar, personlig information och explicita foton. Du hittar deras falska profiler överallt.

Och med spridningen av generativa AI-verktyg blir romantikbedrägerier ännu lättare att utföra. De sänker inträdesbarriärerna. Här är sju vanliga sätt som romantiska bedragare utnyttjar AI – plus hur du kan skydda dig själv.

1. Skickar AI-genererade e-postmeddelanden i massor

Spam-e-postmeddelanden blir svårare att filtrera. Romantiska bedragare missbrukar generativa AI-verktyg för att skriva vilseledande, övertygande meddelanden och skapa flera konton inom några timmar. De närmar sig hundratals nästan omedelbart.

Du kommer att se AI-genererade skräppostmeddelanden på olika plattformar, inte bara din e-postinkorg. Ta fel nummer bluff

som ett exempel. Skurkar skickar söta selfies eller suggestiva bilder i massor. Och om någon svarar kommer de att spela ut det som ett oskyldigt misstag.

När någon är på linjen kommer de att överföras till en annan meddelandeplattform (t.ex. WhatsApp eller Telegram). De flesta program löper i veckor. Bedragare bygger gradvis upp förtroende innan de ber mål att gå med i investeringsplaner, betala sina räkningar eller betala för resor.

Håll dig säker genom att undvika skräppostmeddelanden helt och hållet. Begränsa ditt engagemang med främlingar, oavsett hur de ser ut eller vad de erbjuder.

2. Svara på fler konversationer snabbt

Bots sprider sig som en löpeld på nätet. Imperva rapporterar att dåliga bots utgjorde 30 procent av den automatiserade webbtrafiken 2022. Du hittar en inom några sekunder efter att du har svepat genom Tinder-matcher.

En av anledningarna till denna plötsliga ökning i bots är spridningen av generativa AI-verktyg. De slår ut bots i bulk. Ange bara rätt uppmaning så kommer ditt verktyg att presentera ett komplett, effektivt kodavsnitt för botgenerering.

Vet när du pratar med en bot. Även om AI använder en naturlig, konversationston, låter dess dialog fortfarande monotont och besvärligt. Trots allt följer chatbots bara mönster. Det kan ge liknande svar på olika frågor, påståenden och förfrågningar.

3. Skapa flera identiteter från stulna bilder

AI art generatorer manipulera bilder. Ta demonstrationen nedan som ett exempel. Vi matade Playground AI med ett uppriktigt fotografi av en berömd sångare – plattformen producerade tre varianter inom några sekunder.

Ja, de har brister. Men observera att vi använde ett gratisverktyg som körde en föråldrad text-till-bild-modell. Bedragare producerar mer realistiska resultat med sofistikerade iterationer. De kan snabbt rendera hundratals anpassade, manipulerade foton från bara några få prover.

Tyvärr är AI-bilder svåra att upptäcka. Det bästa vore att göra en omvänd bildsökning och sålla igenom relevanta resultat.

4. Bygga vilseledande autentiska profiler

Bots närmar sig offer i massor. Så romantiska bedragare som föredrar ett riktat system skapar bara en eller två autentiska profiler. De kommer att använda AI för att verka övertygande. Generativa AI-verktyg kan komponera autentiska beskrivningar som låter naturliga och äkta; dålig grammatik kommer inte längre att vara ett problem.

Här är ChatGPT som föreslår några hobbyer att lista på en dejtingprofil.

Och här är ChatGPT som skriver en hel biografi för din dejtingprofil.

Eftersom denna process tar så mycket tid, kräver den också en större utdelning. Så, bedragare tenderar att be om mer. När de förtjänar ditt förtroende kommer de att be om hjälp med olika "problem", som sjukhusräkningar, lånbetalningar eller studieavgifter. Vissa kommer till och med att hävda att de besöker dig om du axlar deras biljett.

Dessa cyberbrottslingar är skickliga på att manipulera offer. Den bästa taktiken är att undvika att engagera sig med dem direkt från början. Låt dem inte säga något. Annars kan du gradvis falla för deras bedrägeri och gasbelysningsmetoder.

5. Använder Deepfake-teknik för sexuell utpressning

AI avancerade deepfake-verktyg i en oroväckande snabb takt. Ny teknik minskar mindre brister i deepfake-videor, som onaturligt blinkande, ojämna hudtoner, förvrängt ljud och inkonsekventa element.

Tyvärr fungerar dessa fel också som röda flaggor. Att göra det möjligt för användare att ta bort dem gör det svårare att skilja mellan legitima och deepfake-videor.

Bloomberg visar hur alla med grundläggande teknisk kunskap kan manipulera sin röst och sina bilder för att replikera andra.

Förutom att skapa realistiska dejtingprofiler, utnyttjar bedragare deepfake-verktyg för sexuell utpressning. De blandar offentliga foton och videor med pornografi. Efter att ha manipulerat olagligt innehåll kommer de att utpressa offer och kräva pengar, personuppgifter eller sexuella tjänster.

Bry dig inte om du blir målinriktad. Ring 1-800-CALL-FBI, skicka ett FBI-tips eller besök ditt lokala FBI-fältkontor om du skulle hamna i den här situationen.

6. Integrering av AI-modeller med Brute-Force Hacking-system

Även om språkmodeller med öppen källkod stöder vissa AI-framsteg, är de också benägna att utnyttjas. Brottslingar kommer att dra fördel av vad som helst. Du kan inte förvänta dig att de ska ignorera algoritmen bakom mycket sofistikerade språkmodeller som Lama och OpenAssistant.

I romantikbedrägerier integrerar hackare ofta språkmodeller med lösenordsknäckning. AI: s NLP- och maskininlärningsfunktioner gör det möjligt för brute-force-hackingsystem att producera lösenordskombinationer snabbt och effektivt. De kunde till och med göra välgrundade förutsägelser om de försågs med tillräckligt sammanhang.

Du har ingen kontroll över vad bedragare gör. För att skydda dina konton, se till att du skapa ett riktigt säkert lösenord som består av specialtecken, alfanumeriska kombinationer och 14+ tecken.

7. Imiterar riktiga människor med röstkloning

AI-röstgeneratorer började som en cool leksak. Användare skulle förvandla provspår av sina favoritartister till covers eller till och med nya låtar. Ta Heart on My Sleeve som exempel. TikTok-användare Spökskrivare977 gjorde en superrealistisk låt som imiterade Drake och The Weeknd, även om ingen av artisterna sjöng den.

Trots skämten och memen runt det, talsyntes är mycket farligt. Det gör det möjligt för brottslingar att utföra sofistikerade attacker. Till exempel utnyttjar romantikbedragare verktyg för röstkloning för att ringa mål och lämna vilseledande inspelningar. Offer som inte är bekanta med talsyntes kommer inte att märka något ovanligt.

Skydda dig själv från AI-röstklonbedrägerier genom att studera hur syntetiserade utsignaler låter. Utforska dessa generatorer. De skapar bara nästan identiska kloner - du kommer fortfarande att upptäcka några brister och inkonsekvenser.

Skydda dig själv mot AI-datingbedragare

Allt eftersom generativa AI-verktyg utvecklas kommer romantikbedragare att utveckla nya sätt att utnyttja dem. Utvecklare kan inte stoppa dessa brottslingar. Ta en proaktiv roll i att bekämpa cyberbrott istället för att bara lita på att säkerhetsrestriktioner fungerar. Du kan fortfarande använda dejtingappar. Men se till att du känner personen på andra sidan skärmen innan du interagerar med dem.

Och se upp för andra AI-stödda system. Förutom romantiska bedrägerier använder kriminella AI för identitetsstöld, cyberutpressning, utpressning, ransomware-attacker och brute-force hacking. Lär dig att bekämpa dessa hot också.