De 9 bästa AI Chatbot-myterna avslöjas

Det tar vanligtvis tid för myter att föreviga om något ämne. Det säger mycket om generativa AI-chatbots att så många myter har uppstått så snabbt.

Nästan i ett ögonblick har AI-chatbots blivit århundradets mest störande teknik. Det är också en teknik som är omsluten av kontroverser, och en del av detta är av genuin oro. Men myter är kärnan i åtminstone en del av kontroversen.

Låt oss reda ut fakta och fiktion när vi utforskar de främsta AI-chatbotmyterna.

1. AI Chatbots är Sentient

Chatbots som ChatGPT och Bing Chat kanske kan generera mänskliga svar, men de är långt ifrån kännande. Denna förmåga är mimik och inte känsla. Dessa verktyg använder enorma databaser med text och bilder för att skapa svar som efterliknar mänskliga svar.

Det är komplext, det är smart, och i viss mån kan man argumentera för förekomsten av intelligens – men inte känsla. All "intelligens" som finns i dessa verktyg skapas genom att träna dem på enorma mängder data. I denna mening är de mer besläktade med en otroligt kraftfull och flexibel databas än en kännande varelse.

2. Chatbots kan hantera alla typer av uppgifter eller förfrågningar

Även om chatbots kan betraktas som något av en teknisk schweizisk armékniv, finns det tydliga begränsningar för vad de kan uppnå. Detta är uppenbart när man arbetar med komplexa eller högt specialiserade ämnen. Men även enkla uppgifter kan kasta dem.

Till exempel skulle det framväxande området med generativa AI-chatbotar vara ett ämne som du skulle tro att sådana verktyg skulle vet allt om, men försök ställa ChatGPT en fråga om en av dess rivaler och begränsningarna är omedelbart skenbar:

Vi frågade den: "Vilken stor språkmodell använder Google Bard?"

Nu, bara för att vara tydlig, finns det kända begränsningar för ChatGPT och åldern på data den kan referera till. Den frågan sattes medvetet upp för att avslöja detta. Men vi ställde Bard samma fråga när jämföra Google Bard vs. ChatGPT, och det blev fel också:

Chatbots kan vara smarta, men de är inte kapabla till någon typ av uppgift och kommer ibland att misslyckas på de enklaste frågorna.

3. Chatbots är ett hot mot mänskligheten

Problemet här är att människor blandar ihop produktivitetsverktyg med Robocop. Chatbots kan utgöra ett jobbhot för vissa människor, och de kan störa vissa branscher. Men det vore en överdrift att hävda att de är ett hot mot mänskligheten som helhet.

I slutändan är AI en framväxande teknik som måste övervakas noga för att säkerställa att den förblir en etisk och säker teknik. Men chatbots är inte på väg att regera på högsta nivå.

I det här fallet kunde vi inte uttrycka det bättre än ChatGPT.

Men det skulle säga det. Skulle det inte?

4. AI Chatbots är ofelbara

Inget kunde vara längre från sanningen. Eftersom själva verktygen anstränger sig för att förklara, kan de generera felaktig information. Problemet är att generativa AI-chatbotar förlitar sig på enorma databaser som kallas stora språkmodeller (LLMs).

LLM innehåller text från ett stort antal källor, allt från litteratur till inlägg på sociala medier ingår i LLM. Detta är arkivet som chatbotarna hänvisar till för att ge sina svar. Eventuella faktafel i dessa kan visa sig i de svar de ger.

AI-hallucinationer är en vanlig form av fel som alltför ofta visar hur felbara dessa verktyg är.

5. Chatbots kommer att ersätta mänsklig interaktion

Svaret på denna fråga kan gå tillbaka till avsnittet om mening. Chatbots kan härma mänskliga svar och kan säkert besvara sakfrågor (för det mesta) kompetent och hjälpa på många sätt. Men de kan inte förstå känslor, mänskliga upplevelser och många av konversationens nyanser.

Mänsklig interaktion är en komplex process på flera nivåer som involverar sådana element som empati, kritiskt tänkande, känslomässig förståelse och intuition. Inget av dessa attribut finns i generativa AI-chatbotar.

6. AI-generativa chatbots är bara bra för textinteraktioner

Den här har åtminstone en ring av sanning om sig. Men framsteg har gjorts inom området för AI-generativa chatbots för att utöka sina möjligheter utöver bara text.

Den senaste utvecklingen har introducerat multimodala chatbots som inte bara kan hantera text utan även inkluderar andra interaktioner som bilder, videor och till och med röstkommandon.

Den hastighet med vilken dessa verktyg utvecklas är en del av orsaken bakom denna myt. Gränserna för vad den här tekniken kan göra tänjs på i snabb takt och de initiala iterationerna som främst var textbaserade anses redan vara gammaldags.

7. Chatbots kommer alltid att ge opartiska svar

Tyvärr är så inte fallet. Potentialen för partiska svar finns alltid med AI-chatbots. Roten till problemet kan spåras tillbaka till LLM: erna. Den stora mängd data som chatbots refererar till innehåller oundvikligen partiskhet. Dessa fördomar kan inkludera kön, ras, nationalitet och bredare samhälleliga fördomar.

Även om utvecklare anstränger sig för att minimera partiskhet i chatbot-svar, är uppgiften otroligt utmanande och partiska svar glider genom nätet. Oundvikligen kommer dessa "opartiska" tekniker att förbättras och antalet partiska svar kommer att minska.

Men åtminstone för tillfället är potentialen för partiska svar en olöst fråga.

8. Chatbots är faktiskt riktiga människor

Den kanske mest löjliga myten är att bakom varje AI-chatbot finns en riktig människa. Den här går på en känslig linje mellan konspirationsteori och myt, vi kommer inte att uppehålla oss vid den här annat än att säga att det är nonsens.

9. AI Chatbots kan programmera sig själva

Chatbots måste tränas och programmeras för att utföra sina uppgifter på ungefär samma sätt som vilken mjukvara som helst måste programmeras för att utföra specifika funktioner.

Även om AI-chatbotar använder maskininlärningstekniker för att förbättra sin prestanda, har de inte förmågan att programmera sig själv autonomt.

Utbildningsprocessen kan liknas vid testprocessen för icke-AI-programvara. Utbildning innebär att fördefiniera deras mål, designa deras arkitektur och lära dem att generera svar baserat på data i relevant LLM. Hela detta framsteg kräver fortfarande mänskligt ingripande och programmeringsexpertis.

AI Chatbots: Separation Fact From Fiction

Det snabba upptaget i användningen av dessa verktyg har vidmakthållit en mängd myter. Vissa av dem är absolut nonsens, och några av dem har ett eller annat korn av sanning. Det som är tydligt är att det finns mycket desinformation kring AI-chatbotar som behöver förtydligas.

Genom att undersöka fakta och skingra fiktionen kan vi få en bättre förståelse för dessa kraftfulla verktygs verkliga möjligheter och begränsningar. AI Chatbots är inte ensamma om att snabbt föreviga myter, det finns massor av andra myter som cirkulerar om AI i allmänhet.