Inom AI görs framsteg på oöverträffade nivåer, med nya utvecklingar som görs nästan varje vecka. Generativa AI-verktyg som ChatGPT är nu så populära att de integreras överallt.
Men borde vi? Att använda AI-teknik för produktivitet, utbildning och underhållning är vettigt. Men företag funderar nu på att lägga det direkt i våra meddelandeappar, och detta kan visa sig vara destruktivt. Här är sju anledningar.
1. AI Chatbots tenderar att hallucinera
Om du har använt ChatGPT, Bing eller Bard, du vet att generativa AI-chatbotar tenderar att "hallucinera". AI-hallucination är när dessa chatbots hittar på saker på grund av brist på adekvat träningsdata på frågan som begärs av användaren.
Med andra ord, de levererar desinformation men låter säkra på det, som om det är ett faktum. Detta är ett stort problem eftersom många människor inte faktakollar när de använder en chatbot och tror att den är korrekt som standard. Det är en av de största misstag att undvika när du använder AI-verktyg.
När den placeras i meddelandeappar är mängden skada den kan göra ännu större eftersom människor kan använda den för att (avsiktligt eller oavsiktligt) sprider desinformation bland sina kontakter och på sociala medier, sprider propaganda och främjar eko kammare.
2. Folk gillar inte att prata med bots
Tänk på hur irriterande det är när du försöker kontakta ett företags kundsupport och du är tvungen att prata med en chatbot istället för en riktig mänsklig chef som faktiskt kan förstå nyanserna i ditt problem och erbjuda lämpligt vägledning.
Detsamma gäller personliga samtal. Föreställ dig att prata med din vän, och halvvägs inser du att de har använt AI för att svara på dina meddelanden hela tiden istället för att göra det på egen hand baserat på deras tankar och åsikter.
Om du är som de flesta andra skulle du omedelbart känna dig kränkt och uppfatta användningen av AI i ett privat samtal som okänslig, läskig och till och med passiv-aggressiv, som om den andra personen inte anser att du är värd sin tid, uppmärksamhet och empati.
Att använda AI för att skriva e-postmeddelanden, till exempel, är förståeligt eftersom det är en professionell interaktion, men att använda det i personliga konversationer kommer inte att vara något någon skulle vilja uppmuntra. När nyheten i tekniken försvinner, kommer det att bli oförskämt att använda den i detta sammanhang.
3. AI kan inte kopiera din unika tonalitet
Generativa AI-verktyg låter dig redan idag ändra tonaliteten i ditt meddelande, till exempel formellt, gladt eller neutralt beroende på vem du skriver till och hur du vill komma över. Magic Compose i Google Messages, till exempel, låter dig göra detsamma.
Även om det är bra, notera att dessa tonaliteter tränas baserat på inställd träningsdata och inte din personliga chatthistorik, så det kan inte replikera din unika tonalitet eller de emojis du vanligtvis använder.
Du kanske inte bryr dig om det här mycket, speciellt om du använder AI för att skriva enkla arbetsmail där alla mer eller mindre använder samma formella tonalitet. Men det betyder mycket mer än du kanske inser när du använder det för att prata med dina vänner och familj i en meddelandeapp.
Fram tills AI-verktyg ger dig möjlighet att träna deras språkmodell baserat på din chatthistorik, kommer de inte att kunna replikera din unika dialekt och excentriciteter. Som sagt, den här utmaningen är inte så svår att lösa, så vi kan se att den implementeras snart.
4. Att skriva bra uppmaningar tar tid
Att få önskade resultat från en AI-chatbot beror mycket på kvaliteten på din prompt. Om du skriver en dålig uppmaning kommer du att få ett dåligt svar och måste förfina uppmaningen tills du får ett tillfredsställande resultat.
Denna process är meningsfull när du vill skriva innehåll i långa format men är extremt ineffektivt när du skriver flera, korta svar i en informell konversation.
Tiden det kan ta att förfina dina meddelanden och få användbara svar kommer i de flesta fall att vara mer än den tid det skulle ha tagit dig om du bara skrivit meddelandena själv.
5. AI kan ge stötande resultat
Bortsett från noggrannhet är bias en av de största problemen med generativ AI. Vissa människor uppfattar AI som opartisk eftersom den inte har sina egna motiv. Men människorna bakom dessa AI-verktyg är i slutändan människor med sina egna fördomar.
Bias är med andra ord inbakat i systemet. AI förstår inte i sig vad som anses stötande och vad som inte är det, så det kan till exempel tränas att vara partisk mot vissa grupper av människor eller vissa kulturer – vilket ger kränkande resultat i processen.
6. AI kanske inte förstår sarkasm eller humor
AI: s förståelse av talfigurer, som ironi och metaforer, förbättras med tiden, men det är fortfarande långt ifrån att det kan användas i en konversation för att känna igen humor. När man bad Googles Bard att vara sarkastisk, till exempel, var resultaten hit-or-miss.
I vissa fall var det genuint roligt och spelade ihop med min sarkasm. Men i andra fall gick den antingen tillbaka till ett otäckt cookie-cutter-svar eller vägrade helt enkelt att delta i konversationen helt och hållet och säga att eftersom det bara är en LLM kan det inte hjälpa mig med min fråga.
7. Att förlita sig på AI kan leda till dålig kommunikation
Ett annat subtilt men ändå betydande problem med att integrera generativ AI i meddelandeappar är hur det kan påverka vår förmåga att kommunicera. Om vi i allt högre grad förlitar oss på AI för att konversera med varandra, kan det hindra vår förmåga att träna vår känslomässiga intelligens och social kompetens.
Poängen här är att ju mer vi lägger ut våra sociala behov till AI, desto sämre blir vi på att kommunicera idéer med organiska medel. Med andra ord, ju mer du använder AI för att prata med dina kontakter, desto mer sannolikt är det att du försämrar kvaliteten på dina relationer.
Allt behöver inte ha AI
Ofta, med tillkomsten av ny teknik, är vi så upptagna med att ta reda på hur vi ska använda den att vi inte kan argumentera för om vi borde använda den i första hand.
Även om det är fullt vettigt att använda generativ AI för att skriva e-postmeddelanden, brainstorma idéer eller skapa bilder för presentationer, bjuder integreringen till meddelandeappar på mycket kritik.