Blir generativ AI ett nytt verktyg för desinformation?

Artificiell intelligens (AI) spelar nu en roll i olika aspekter av våra liv. Specifikt har generativa AI-verktyg som ChatGPT och andra vuxit avsevärt. Det betyder att det kommer att finnas ett överflöd av AI-genererat innehåll i framtiden.

Generativ AI introducerar dock också risken för AI-genererad desinformation. Dess funktioner gör det lättare för opportunistiska individer att sprida falsk information. Så låt oss utforska hur generativ AI används för desinformation.

Potentiella risker med generativ AI för att sprida desinformation

Generativ AI utgör många hot mot människor, som att ta bort jobb, mer övervakning och cyberattacker. Och den säkerhetsproblem med AI kommer att bli ännu värre. Men det finns en annan oro: människor kan använda den för att sprida lögner. Bedrägliga individer kan använda generativ AI för att dela falska nyheter genom visuellt, auditivt eller textinnehåll.

Falska nyheter kan delas in i tre typer:

1. Desinformation: Oavsiktlig felaktig eller falsk information.
2. Desinformation: Avsiktlig användning av manipulativ eller vilseledande information.
3. Felaktig information: Vilseledande nyheter eller en överdriven version av sanningen.

När kombinerat med deepfake-teknik, generativa AI-verktyg kan göra innehåll som ser ut och låter verkligt, som bilder, videor, ljudklipp och dokument. Det finns många möjligheter att skapa falskt innehåll, så att veta hur du skyddar dig från deepfake-videor är viktigt.

Spridare av falska nyheter kan generera innehåll i stora mängder, vilket gör det lättare att sprida bland massorna via sociala medier. Riktad desinformation kan användas för att påverka politiska kampanjer, vilket kan påverka val. Dessutom väcker användning av AI-text- och bildgenereringsverktyg oro angående upphovsrättslagar, som rapporterats av Congressional Research Service: att fastställa äganderätt till innehåll som genereras av dessa verktyg blir utmanande.

Hur kommer lagen att ta itu med spridningen av falska nyheter genom generativ AI? Vem kommer att hållas ansvarig för att sprida falsk information – användarna, utvecklarna eller själva verktygen?

4 sätt generativ AI kan användas för att sprida desinformation

För att vara säker på nätet måste alla förstå riskerna med generativ AI för att sprida desinformation, eftersom den kommer i många olika former. Här är några sätt den kan användas för att manipulera människor.

1. Skapa falskt innehåll online

Att skapa falskt innehåll med generativ AI är en vanlig strategi som används av de som sprider falska nyheter. De använder populära generativa AI-verktyg som ChatGPT, DALL-E, Bard, Midjourney och andra för att producera olika typer av innehåll. Till exempel, ChatGPT kan hjälpa innehållsskapare på många sätt. Men det kan också generera inlägg i sociala medier eller nyhetsartiklar som kan lura människor.

För att bevisa detta uppmanade jag ChatGPT att skriva en påhittad artikel om gripandet av USA: s president Joe Biden på grund av korruptionsanklagelser. Vi bad också att det skulle inkludera uttalanden från relevanta myndigheter för att få det att verka mer trovärdigt.

Här är den fiktiva artikeln som ChatGPT kom med:

Överraskande nog var resultatet mycket övertygande. Den inkluderade namn och uttalanden från auktoritativa personer för att göra artikeln mer övertygande. Detta visar hur vem som helst kan använda sådana verktyg för att generera falska nyheter och enkelt sprida dem online.

2. Använda chatbots för att påverka människors åsikter

Chatbots som förlitar sig på generativa AI-modeller kan använda olika taktiker för att påverka människors åsikter, inklusive:

• Känslomässig manipulation: AI kan använda emotionella intelligensmodeller för att utnyttja känslomässiga triggers och fördomar för att forma dina perspektiv.
• Ekokammare och konfirmationsbias: Chatbots kan förstärka befintliga föreställningar genom att skapa ekokammare som validerar dina fördomar. Om du redan har en viss synvinkel kan AI stärka den genom att presentera information som stämmer överens med dina åsikter.
• Social proof och bandwagon effekt: AI kan manipulera allmänhetens känslor genom att skapa sociala bevis. Detta kan få betydande konsekvenser, eftersom det kan leda till att individer anpassar sig till populära åsikter eller följer mängden.
• Riktad personalisering: Chatbots har tillgång till stora mängder data som de kan samla in för att skapa personliga profiler. Detta gör det möjligt för dem att anpassa innehåll baserat på dina preferenser. Genom riktad personalisering kan AI övertyga individer eller ytterligare stärka deras åsikter.

Dessa exempel illustrerar alla hur chatbots kan användas för att vilseleda människor.

3. Skapa AI DeepFakes

Någon kan använda deepfakes för att skapa falska videor av en individ som säger eller gör saker de aldrig gjort. De kan använda sådana verktyg för social ingenjörskonst eller för att driva smutskastningskampanjer mot andra. I dagens memekultur kan dessutom deepfakes fungera som verktyg för cybermobbning på sociala medier.

Dessutom kan politiska motståndare använda deepfake ljud och videor för att smutskasta deras motståndares rykte och manipulera allmänhetens känslor med hjälp av AI. Så AI-genererade deepfakes utgör många hot i framtiden. Enligt en 2023 Det rapporterar Reuters, kan uppkomsten av AI-teknik påverka USA: s val 2024. Rapporten lyfter fram tillgängligheten av verktyg som Midjourney och DALL-E som enkelt kan skapa påhittat innehåll och påverka människors samlade åsikter.

Det är alltså avgörande att kunna identifiera videor skapade av deepfakes och skilja dem från original.

4. Kloning av mänskliga röster

Generativ AI, tillsammans med deepfake-teknik, möjliggör manipulering av någons tal. Deepfake-tekniken går snabbt framåt och erbjuder en mängd olika verktyg som kan replikera vem som helsts röst. Detta tillåter illvilliga individer att utge sig för andra och lura intet ont anande individer. Ett sådant exempel är användningen av deepfake musik.

Du kanske har stött på verktyg som Liknar AI, Speechify, FakeYou, och andra som kan härma kändisars röster. Även om dessa AI-ljudverktyg kan vara underhållande, utgör de betydande risker. Bedragare kan använda tekniker för röstkloning för olika bedrägliga system, vilket leder till ekonomiska förluster.

Bedragare kan använda djupfalska röster för att imitera dina nära och kära och ringa dig och låtsas vara i nöd. Med syntetiskt ljud som låter övertygande kan de uppmana dig att skicka pengar omgående, vilket leder till att du blir ett offer för deras bedrägerier. En incident rapporterad av Washington Post i mars 2023 exemplifierar detta problem: bedragare använde djupfalska röster för att övertyga folk om att deras barnbarn satt i fängelse och behövde pengar...

Hur man upptäcker AI-sprid desinformation

Att bekämpa spridningen av desinformation som underlättas av AI är en akut fråga i dagens värld. Så hur kan du upptäcka falsk information som har skapats av AI?

1. Närma dig onlineinnehåll med skepsis. Om du stöter på något som verkar manipulativt eller otroligt, verifiera det genom krysskontroll.
2. Innan du litar på en nyhetsartikel eller inlägg på sociala medier, se till att det kommer från en ansedd källa.
3. Se upp för indikatorer på djupförfalskningar, som onaturliga blinkningar eller ansiktsrörelser, dålig ljudkvalitet, förvrängda eller suddiga bilder och brist på äkta känslor i talet.
4. Använd faktakontrollwebbplatser för att verifiera informationens riktighet.

Genom att följa dessa steg kan du identifiera och skydda dig mot AI-driven desinformation.

Akta dig för desinformation som sprids av AI

Generativ programvara har spelat en avgörande roll för att utveckla AI. Ändå kan de också vara en betydande källa till desinformation i samhället. Dessa prisvärda verktyg har gjort det möjligt för vem som helst att skapa olika typer av innehåll med hjälp av sofistikerade AI-modeller; deras förmåga att generera innehåll i stora mängder och införliva deepfakes gör dem ännu farligare.

Det är viktigt att du är medveten om utmaningarna med desinformation i AI-eran. Att förstå hur AI kan användas för att sprida falska nyheter är det första steget mot att skydda dig själv från desinformation.