När området för artificiell intelligens fortsätter att utvecklas i en svindlande takt är en ny utmanare redo att ta sig in på spelplanen. TruthGPT, en AI-chatbot föreslagen av teknikmiljardären Elon Musk, genererar mycket buzz online.
Men vad är TruthGPT? Varför vill Elon Musk skapa den? Och hur kommer det att skilja sig från de AI-verktyg vi redan har?
Vad är TruthGPT?
TruthGPT är en föreslagen AI-modell som syftar till att ta itu med nackdelarna med befintliga modeller som driver sådana som ChatGPT och Bard, med särskild tonvikt på sanning och säkerhet. Enligt Elon Musk kommer TruthGPT att vara en "maximalt sanningssökande" AI som förstår naturen av universum och skulle sannolikt inte förstöra mänskligheten eftersom den ser människor som en kritisk komponent i universum.
Maximal sanningssökande AI? Förstå universums natur?
Du kommer att bli förlåten om Musks beskrivning inte ger dig en tydlig bild av exakt vad han försöker bygga. Du kommer dock att få en bättre uppfattning om vad han pratar om genom att titta på varför han försöker bygga det i första hand.
Varför bygger Elon Musk TruthGPT?
I en intervju med Fox news, uttryckte Elon Musk sin oro över hur stora AI-företag kan upprätthålla partiskhet och desinformation genom AI-chatbotar – ett framväxande verktyg som människor i allt högre grad är beroende av för information. Elon Musk kommenterade också det hot AI utgör mot mänskligheten, och betonade möjligheten av en AI-apokalyps, ett scenario där AI-system kan ta kontroll över våra dagliga liv.
Genom att peka ut företag som OpenAI och Google, som, enligt hans åsikt, inte gör tillräckligt inom områdena AI-säkerhet och skydd mot desinformation, föreslog Elon Musk en tredje kraft – TruthGPT. SpaceX och Teslas vd vill skapa TruthGPT som en motvikt till Googles Bard och OpenAI: s ChatGPT. Tanken är att skapa en AI-modell som så mycket som möjligt försöker vara sanningsenlig i informationen den ger.
Elon Musk, som nyligen skrev ett öppet brev där han uppmanade till en moratorium för utvecklingen av kraftfull AI modeller (särskilt de som är kraftfullare än GPT-4), anser att AI rör sig för snabbt. Han tror att vi måste sakta ner och omvärdera vår strategi för AI-säkerhet innan AI "tar kontroll." TruthGPT är en stor språkmodell (LLM) som lovar att ta itu med dessa två kärnproblem med dagens AI system.
Hur skulle TruthGPT se ut?
Det första tipset om hur TruthGPT skulle se ut finns i namnet. Med tanke på "GPT"-tillägget kommer TruthGPT sannolikt att ha en liknande arkitektur som ChatGPT. Kom ihåg att Elon Musk hjälpte till att montera OpenAI och teamet som byggde ChatGPT: s GPT-modell.
Med tanke på att GPT: s arkitektur har visat sig vara både en teknisk och kommersiell framgång, kommer det sannolikt att bli för tidskrävande och kostsamt att följa en annan väg. Tid är en sak som Elon Musk inte har om han ska bygga något som verkligen kan stå tå till tå med toppmodern AI så snart som möjligt. Så bli inte för hypad – TruthGPT kanske inte skiljer sig så radikalt från de AI-verktyg vi redan har.
Noggrannheten, eller i Elon Musks språkbruk, "sanningsfullhet", för en AI-modell beror mycket på dess träningsdata och träningsalgoritmen. Vi är inte exakt säkra på hur TruthGPT: s utbildningsdata skulle hämtas, men för att få den bästa chansen att bygga en LLM som "sanningsfulla" som möjligt, Elon Musks TruthGPT skulle behöva prioritera data från "sanningsbara källor". Men det är just det problem. Sanning är ett mycket subjektivt begrepp. Det som är sant för mig kanske inte är sant för dig.
Så, är denna idé om en maximal sanningssökande AI ens praktisk?
Varför att bygga TruthGPT är en stor utmaning
När du förstå hur stora språkmodeller som GPT fungerar, blir det tydligt att det är opraktiskt att alltid vara korrekt. Vanligtvis tränad på en stor datauppsättning av internetdata, mycket av det kommer, förutsägbart, att vara falsk information, och LLM: er har inget inert sätt att berätta fakta från fiktion.
Den bästa interventionen är vanligtvis från mänskliga tränare som försöker lära språkmodellen vad som är bra beteende och vad som är dåligt. Men mänskliga tränare är partiska. Bias överförs till AI-modellerna, besegrar hela syftet med en "maximal sanningssökande AI." Observera, vi pratar inte om direkt partiskhet eller fördomar mot ett folk eller annat. Det är den mer subtila fördomen om hur du tolkar språk, situationer, utmaningar och så vidare som läcker in i processen. Människor är trots allt människor.
Självklart kan noggrannheten också tacklas från algoritmsidan. Men oavsett algoritmen representerar språkets tvetydighet fortfarande ett stort problem för AI-modellernas noggrannhet. Även människor kämpar ofta för att korrekt tolka en mening eller en fras innebörd, vilket leder till felaktig information. För AI-modeller kan otydlighet leda till feltolkningar som resulterar i felaktigheter.
För Musk verkar TruthGPT vara en chans för honom att skapa en AI-modell som han ser lämplig för att leverera sanningen. Hur det skulle komma till stånd utan att introducera sina egna fördomar är en annan fråga helt och effektivt som leder oss tillbaka till början av konversationen. Hur är Musks åsikter om vad som är partiskt eller inte annorlunda än de som tränade och regisserade ChatGPT?
Är TruthGPT en spännande möjlighet?
Elon Musks planer för TruthGPT verkar ädla och lovvärda. Att bygga en AI-modell med en försumbar förekomst av felaktigheter är dock en tuff uppgift.
Även om vi förväntar oss att en teknikmiljardär som har avmystifierat raketvetenskapen skulle kunna åstadkomma något av detta slag, är vissa saker lättare sagt än gjort.