Varför du inte ska lita på ChatGPT med konfidentiell information

ChatGPT har blivit ett stort säkerhets- och integritetsproblem eftersom alltför många av oss frånvarande delar vår privata information om den. ChatGPT loggar varje konversation du har med den, inklusive all personlig information du delar. Ändå skulle du inte veta detta om du inte har grävt igenom OpenAI: s sekretesspolicy, användarvillkor och FAQ-sida för att sätta ihop det.

Det är tillräckligt farligt att läcka din egen information, men med tanke på att stora företag använder ChatGPT för att bearbeta information varje dag, kan detta vara början på en dataläckagekatastrof.

Samsung läckte konfidentiell information via ChatGPT

Enligt Gizmodo, Samsungs anställda läckte av misstag konfidentiell information via ChatGPT vid tre olika tillfällen inom 20 dagar. Detta är bara ett exempel på hur lätt det är för företag att äventyra privat information.

ChatGPT är offentligt under eld för sina integritetsfrågor, så det är en stor förbiseende att Samsung låter detta hända.

Vissa länder har till och med förbjudit ChatGPT att skydda sina medborgare tills det förbättrar sin integritet, så man skulle kunna tro att företag skulle vara mer försiktiga med hur deras personal använder det.

Lyckligtvis verkar det som att Samsungs kunder är säkra – åtminstone för närvarande. De överträdda uppgifterna avser endast interna affärspraxis, viss egen kod som de felsökte och protokollen från ett teammöte, allt inlämnat av anställda. Det hade dock varit lika lätt för personalen att läcka konsumenters personliga information, och det är bara en tidsfråga innan vi ser ett annat företag göra just det. Om detta händer kan vi förvänta oss att se en massiv ökning av nätfiskebedrägerier och identitetsstöld.

Det finns ett annat lager av risk här också. Om anställda använder ChatGPT för att leta efter buggar som de gjorde med Samsung-läckan, kommer koden de skriver in i chattrutan också att lagras på OpenAI: s servrar. Detta kan leda till intrång som har en enorm inverkan på företag som felsöker outgivna produkter och program. Det kan till och med sluta med att vi får se information som outgivna affärsplaner, framtida releaser och prototyper läcka, vilket resulterar i enorma intäktsförluster.

Hur uppstår ChatGPT-dataläckor?

ChatGPT: s sekretesspolicy gör det tydligt att det registrerar dina konversationer och delar loggarna med andra företag och dess AI-utbildare. När någon (till exempel en Samsung-anställd) skriver in konfidentiell information i dialogrutan, spelas den in och sparas på ChatGPT: s servrar.

Det är högst osannolikt att de anställda har gjort detta med flit, men det är det skrämmande. De flesta dataintrång orsakas av mänskliga fel. Ofta beror det på att företaget har misslyckats med att utbilda sin personal om integritetsriskerna med att använda verktyg som AI.

Till exempel, om de klistrar in en stor kontaktlista i chatten och ber AI: n att isolera kundernas telefonnummer från data, har ChatGPT sedan dessa namn och telefonnummer i sina register. Din privata information är utlämnad till företag som du inte delade den med, vilket kanske inte skyddar den tillräckligt bra för att hålla dig säker. Det finns några saker du kan göra för att hålla dig säker efter ett dataintrång, men företag bör ansvara för att förhindra läckor.

Moral of the Story: Berätta inte ChatGPT dina hemligheter

Du kan säkert använda ChatGPT för hundratals olika uppgifter, men att organisera konfidentiell information är inte en av dem. Du måste vara noga med att undvika att skriva något personligt i chattrutan, inklusive ditt namn, adress, e-post och telefonnummer. Det är lätt att göra det här misstaget, så du bör vara noga med att kontrollera dina uppmaningar för att säkerställa att inget har hamnat in av misstag.

Samsung-läckan visar oss hur verklig risken är för en ChatGPT-relaterad dataläcka. Tyvärr kommer vi att se fler av dessa typer av misstag, kanske med mycket större effekter, eftersom AI blir en central del av de flesta företags processer.