OpenAI: s automatiserade AI-drivna chatbot, ChatGPT, har tagit internet med storm, men inte utan att skapa några problem på vägen. Med skribenter, kodare, marknadsförare och till synes alla andra där emellan använder ChatGPT för att skapa innehåll, stirrar företag över hela världen ner en tsunami av AI-genererat innehåll.
Med problem med plagiat och stulet innehåll som ständigt virvlar runt ChatGPT och dess produktion, har OpenAI nu släppt en ny GPT-Classifier, ett verktyg utformat för att upptäcka och avslöja om texten du läser var ett verk av ChatGPT eller någon av dess andra GPT-verktyg.
OpenAI lanserar GPT-klassificerare för att kontrollera AI-skriven text
OpenAI: s tillkännagivande kommer som granskning av AI-skrivande och AI-genererad text steg upp och företag integrerar ChatGPT-utdata.
Den nya GPT-klassificeraren försöker ta reda på om ett visst stycke text var mänskligt skrivet eller ett verk av en AI-generator. Medan ChatGPT och andra GPT-modeller utbildas omfattande på alla typer av textinmatning GPT-klassificeringsverktyget är "finjusterat på en datauppsättning av par av mänskligt skriven text och AI-skriven text på samma ämne."
Så istället för att samla information och återskapa sin bästa uppskattning, försöker GPT-klassificeraren att jämför likheter mellan känd mänsklig text och känd AI-text för att hitta avvikelser som avslöjar källan författare.
GPT-klassificerarens upptäckt är för närvarande begränsad
Medan idén om att lätt upptäcka AI-genererad text kommer att vara musik i öronen av redaktörer och lärare, har OpenAI varnat för att dess "klassificerare inte är helt tillförlitlig."
För närvarande identifierar GPT-Classifier "korrekt 26 % av AI-skriven text" samtidigt som 9 % av mänsklig text märks som AI-skriven. OpenAI noterar också att verktygets noggrannhet "typiskt förbättras när längden på inmatningstexten ökar."
Ett översiktligt test av GPT-klassificeraren upptäckte ett mänskligt genererat exempel och markerade att det är "mycket osannolikt att vara AI-genererad", och indikerade också korrekt att ett ChatGPT-genererat utdrag om USB-problem "möjligen var AI genererad."
Efterfrågan på ChatGPT-detektion är hög
Även med GPT-klassificerarens begränsningar kommer efterfrågan på tillförlitlig ChatGPT-detektering sannolikt att få många att vända sig till detta verktyg. OpenAI: s engagemang för att bygga och släppa ett gratis GPT-detekteringsverktyg är viktigt eftersom allt fler studenter, skribenter, programmerare och andra använder AI-textgenereringsverktyg, förståelse och detektering av denna input kommer att bli avgörande.
För nu, även om GPT-Classifier är igång och tillgänglig för testning, är det bäst att ta dess märkning med en nypa salt.