Med miljontals ChatGPT-användare kanske du undrar vad OpenAI gör med alla sina konversationer. Analyserar den ständigt de saker du pratar om med ChatGPT?
Svaret på det är, ja, ChatGPT lär sig av användarnas input – men inte på det sätt som de flesta tror. Här är en djupgående guide som förklarar varför ChatGPT spårar konversationer, hur den använder dem och om din säkerhet äventyras.
Kommer ChatGPT ihåg konversationer?
ChatGPT tar inte uppmaningar till nominellt värde. Den använder kontextuellt minne för att komma ihåg och referera till tidigare inmatningar, vilket säkerställer relevanta, konsekventa svar.
Ta konversationen nedan som ett exempel. När vi frågade ChatGPT om receptidéer tog det hänsyn till vårt tidigare meddelande om jordnötsallergier.
Här är ChatGPT: s säkra recept.
Kontextminnet låter också AI utföra flerstegsuppgifter. Bilden nedan visar att ChatGPT håller sig i karaktär även efter att ha matat den med en ny prompt.
ChatGPT kan komma ihåg dussintals instruktioner i konversationer. Dess utdata förbättras faktiskt i noggrannhet och precision när du ger mer sammanhang. Se bara till att du förklarar dina instruktioner explicit.
Du bör också hantera dina förväntningar eftersom ChatGPT: s kontextuella minne fortfarande har begränsningar.
ChatGPT-konversationer har begränsad minneskapacitet
Kontextminnet är ändligt. ChatGPT har begränsade hårdvaruresurser, så det kommer bara ihåg upp till specifika punkter i aktuella konversationer. Plattformen glömmer tidigare uppmaningar när du når dess minneskapacitet.
I den här konversationen instruerade vi ChatGPT att rollspela en fiktiv karaktär som heter Tomie.
Den började svara på meddelanden som Tomie, inte ChatGPT.
Även om vår begäran fungerade, bröt ChatGPT karaktär efter att ha fått en uppmaning på 1 000 ord.
OpenAI har aldrig avslöjat ChatGPTs exakta gränser, men rykten säger att det bara kan behandla 3 000 ord åt gången. I vårt experiment fungerade ChatGPT efter bara 2 800+ ord.
Du kan dela upp dina meddelanden i två uppsättningar på 1 500 ord, men ChatGPT kommer sannolikt inte att behålla alla dina instruktioner. Bara starta en ny chatt helt och hållet. Annars måste du upprepa specifika detaljer flera gånger under din konversation.
ChatGPT kommer endast ihåg ämnesrelevanta indata
ChatGPT använder kontextuellt minne för att förbättra utdatanoggrannheten. Den behåller inte bara information för att samla in den. Plattformen glömmer nästan automatiskt irrelevanta detaljer, även om du är långt ifrån att nå token-gränsen.
I bilden nedan försöker vi blanda ihop AI med olika osammanhängande, irrelevanta instruktioner.
Vi höll våra kombinerade inmatningar under 100 ord, men ChatGPT glömde fortfarande vår första instruktion. Det bröt snabbt karaktären.
Samtidigt fortsatte ChatGPT att spela rollspel under den här konversationen eftersom vi bara ställde ämnesrelevanta frågor.
Helst måste varje dialog följa ett unikt tema för att bibehålla korrekta, relevanta resultat. Du kan fortfarande mata in flera instruktioner samtidigt. Se bara till att de överensstämmer med det övergripande ämnet, annars kan ChatGPT släppa instruktioner som den anser vara irrelevanta.
Utbildningsinstruktioner överträffar användarinmatning
ChatGPT kommer alltid att prioritera förutbestämda instruktioner framför användargenererad input. Det stoppar olaglig verksamhet genom restriktioner. Plattformen avvisar alla uppmaningar som den anser vara farliga eller skadliga för andra.
Ta rollspelsförfrågningar som exempel. Även om de åsidosätter vissa begränsningar för språk och fraser, kan du inte använda dem för att begå olagliga aktiviteter.
Naturligtvis är inte alla begränsningar rimliga. Om stela riktlinjer gör det utmanande att utföra specifika uppgifter, fortsätt att skriva om dina uppmaningar. Ordval och ton påverkar kraftigt utdata. Du kan hämta inspiration från det mesta effektiva, detaljerade uppmaningar på GitHub.
Hur studerar OpenAI användarkonversationer?
Kontextminnet gäller bara för din nuvarande konversation. ChatGPT: s statslösa arkitektur behandlar konversationer som oberoende instanser; den kan inte referera till information från tidigare. Att starta nya chattar återställer alltid modellens tillstånd.
Detta betyder inte att ChatGPT dumpar användarkonversationer direkt. OpenAI: s användarvillkor ange att företaget samlar in indata från icke-API konsumenttjänster som ChatGPT och Dall-E. Du kan till och med be om kopior av din chatthistorik.
Medan ChatGPT fritt kommer åt konversationer, OpenAI: s integritetspolicy förbjuder aktiviteter som kan äventyra användarna. Utbildare kan endast använda din data för produktforskning och utveckling.
Utvecklare letar efter kryphål
OpenAI sållar igenom konversationer efter kryphål. Den analyserar tillfällen där ChatGPT visar datafördomar, producerar skadlig information eller hjälper till att begå olaglig verksamhet. Plattformens etiska riktlinjer förnyas ständigt.
Till exempel de första versionerna av ChatGPT svarade öppet på frågor om kodning av skadlig kod eller bygga sprängämnen. Dessa incidenter fick användarna att känna sig som OpenAI har ingen kontroll över ChatGPT. För att återvinna allmänhetens förtroende tränade den chatboten att avvisa alla frågor som kan strida mot dess riktlinjer.
Utbildare samlar in och analyserar data
ChatGPT använder övervakade inlärningstekniker. Även om plattformen kommer ihåg alla ingångar, lär den sig inte av dem i realtid. OpenAI-tränare samlar in och analyserar dem först. Genom att göra det säkerställs att ChatGPT aldrig absorberar den skadliga, skadliga information som den tar emot.
Övervakat lärande kräver mer tid och energi än oövervakade tekniker. Men att låta AI endast analysera input har redan visat sig vara skadligt.
Ta Microsoft Tay som ett exempel - en av de gånger maskininlärning gick fel. Eftersom den ständigt analyserade tweets utan utvecklarvägledning, tränade illvilliga användare den så småningom att spotta rasistiska, stereotypa åsikter.
Utvecklare ser ständigt upp för fördomar
Flera externa faktorer orsakar fördomar i AI. Omedvetna fördomar kan uppstå från skillnader i träningsmodeller, datauppsättningsfel och dåligt konstruerade restriktioner. Du kommer att se dem i olika AI-applikationer.
Tack och lov har ChatGPT aldrig visat diskriminerande eller rasistiska fördomar. Den kanske värsta snedvridningen som användare har märkt är ChatGPT: s benägenhet till vänsterorienterade ideologier, enligt en New York Post Rapportera. Plattformen skriver mer öppet om liberala än konservativa ämnen.
För att lösa dessa fördomar förbjöd OpenAI ChatGPT från att helt och hållet ge politiska insikter. Den kan bara svara på allmänna fakta.
Moderatorer granskar ChatGPT: s prestanda
Användare kan ge feedback på ChatGPTs utdata. Du hittar knapparna tummen upp och tummen ner till höger om varje svar. Det förra indikerar en positiv reaktion. Efter att ha tryckt på gilla- eller ogilla-knappen kommer ett fönster upp där du kan skicka feedback med dina egna ord.
Feedbacksystemet är till hjälp. Ge bara OpenAI lite tid att sålla igenom kommentarerna. Miljontals användare kommenterar ChatGPT regelbundet - dess utvecklare prioriterar sannolikt allvarliga fall av fördomar och skadlig produktion.
Är dina ChatGPT-konversationer säkra?
Med tanke på OpenAI: s sekretesspolicy kan du vara säker på att din data förblir säker. ChatGPT använder endast konversationer för dataträning. Dess utvecklare studerar de insamlade insikterna för att förbättra utdatanoggrannheten och tillförlitligheten, inte stjäla personlig data.
Med det sagt, inget AI-system är perfekt. ChatGPT är inte i sig partisk, men illvilliga individer kan fortfarande utnyttja dess sårbarheter, t.ex. datauppsättningsfel, slarvig utbildning och kryphål i säkerheten. För ditt skydd, lär dig att bekämpa dessa risker.
