Har ChatGPT-svar en tecken- eller ordbegränsning?

ChatGPT är stora nyheter. Men hur stora är svaren du får från denna allsidiga chatbot?

Att fastställa detta är inte så enkelt som du kanske tror. Till att börja med, ställ just denna fråga till ChatGPT, och du kommer att vara säker på att det inte finns några fastställda gränser för längden på dess svar.

Men som vi avslöjar här är det inte så enkelt. Det finns dolda gränser för längden på ett ChatGPT-svar, men det finns också några fiffiga och enkla lösningar som hjälper dig att få längre svar.

Hur bestämmer ChatGPT längden på ett svar?

Hur ChatGPT fungerar är komplext, och svarslängden varierar beroende på vad som efterfrågas och vilken detaljnivå som efterfrågas. Som nästa skärmdump visar, hävdar ChatGPT att det inte finns några strikta gränser.

Det här är inte vad vi hittade. Exemplet nedan visar ChatGPT som plötsligt stoppar ett svar mitt i meningen. Vi bad den skriva en uppsats på tusen ord om fördelarna med en cirkulär ekonomi. ChatGPT slutade svara när det blev 677 ord.

Vi upprepade testet flera gånger med olika frågor, och varje gång slutade det mitt i meningen; ibland åtföljdes detta av ett nätverksfel. Detta är ett vanligt fel, och det finns olika sätt att fixa nätverksfel i ChatGPT.

En del av svaret på varför detta händer ligger i något som kallas token-systemet.

Vad använder Token System ChatGPT?

Istället för en enkel ordräkning för att bestämma längden på både frågor och svar, använder ChatGPT ett tokensystem. Detta bryter ner varje ingång och utdata i en serie tokens som används för att klassificera begäran och svarsstorlek.

Även om ordräkningen spelar en roll i detta, är det inte hela historien. Exempelvis ingicks exemplet nedan OpenAis Tokenizer-verktyg.

Meningen och svaret var "Tokenized" till ett värde av nio tokens. Detta överensstämmer med OpenAI: s "tumregel" att en token motsvarar tre fjärdedelar av ett ord.

GPT 3.5-modellen begränsar användarfrågor och data till 4 097 tokens. Enligt OpenAI: s räkning motsvarar detta cirka 3 000 ord. Det är dock viktigt att notera att denna gräns gäller både för svaret och frågan.

Även om allt detta är bra och bra i teorin, närmade sig resultaten som vi mötte aldrig dessa gränser. Det ofullständiga svaret som ChatGPT returnerade i vårt tidigare test vägde bara in 798 tokens.

Varför är ChatGPT: s svar begränsade?

Denna nystartade teknik har snabbt blivit den mest omtalade tekniska utvecklingen detta århundrade. Detta har genererat en enorm efterfrågan på ChatGPT. I slutändan har denna efterfrågan effektivt begränsat svaren till långt under de angivna gränserna.

Även om det inte finns någon officiell bekräftelse på detta, verkar det finnas en de facto-gräns på cirka femhundra ord eller 4 000 tecken.

För att betona, detta är inte en fast regel – vi genererade utdata som överskred detta med nästan tvåhundra ord. Detta kan dock anses vara en säker övre gräns för att uppnå fullständiga svar.

Hur man får längre svar från ChatGPT

När du väl förstår att det finns en "dold gräns" för ChatGPT: s svar, finns det några enkla sätt att hjälpa dig att få mer fullständiga svar.

1. Be ChatGPT att fortsätta: Om ChatGPT stannar halvvägs genom ett svar, då är ett alternativ att helt enkelt be det fortsätta. I exemplet nedan skrev vi "Fortsätt", och det lade till ytterligare tvåhundra ord till svaret.
2. Dela upp din fråga i mindre avsnitt: Till exempel bad vi den flera gånger att skriva en uppsats om AI: s inverkan på samhället. Varje gång upphörde svaret. Ett alternativ här är att be den att punktlista några ämnen för en uppsats om AI och sedan använda de medföljande punktpunkterna som individuella uppmaningar.
3. Använd alternativet Återskapa: Även om detta kan ge upphov till samma fel, utan inget att förlora, är det alltid värt ett försök.
4. Ange en övre gräns för antalet ord i din prompt: Bilden nedan illustrerar hur detta kan användas för att manipulera det maximala antalet ord i ett svar.

Dessa tips hjälper dig att få mer fullständiga svar från ChatGPT och kringgå den inofficiella gränsen för längden på dess svar.

ChatGPT: Kvalitet framför kvantitet

Även om det inte finns några fastställda gränser för längden på ChatGPT: s svar, verkar plattformen införa en gräns på cirka femhundra ord eller 4 000 tecken.

Främst kan detta tillskrivas den enorma efterfrågan på ChatGPT. Detta har lett till ofullständiga svar och stoppade svar mitt i meningen, men det finns enkla lösningar som hjälper dig att få längre svar.

Trots sina begränsningar förblir ChatGPT en anmärkningsvärd teknisk utveckling som kommer att fortsätta att utveckla och utöka kvalitets- och kvantitetsgränserna för sin produktion.