Är det möjligt för datorer att lära sig sunt förnuft?

Viktiga takeaways

• Sunt förnuft är förmågan att förstå och reagera på vardagliga situationer utan att överanalysera. Den förvärvas genom livserfarenheter och iakttagelser, såväl som samhälleliga och kulturella normer.
• Datorer kämpar med sunt förnuft eftersom de saknar verkliga upplevelser och förmågan att anpassa sig till nya sammanhang. De kämpar också med outtalade regler och antaganden som människor intuitivt förstår.
• Forskare utforskar olika tillvägagångssätt, som att bygga omfattande kunskapsbaser, crowdsourcing sunt förnuft och lära ut AI genom simulerade världar, för att träna datorer i att förvärva sunt förnuft. Framsteg har gjorts, men det finns fortfarande arbete kvar att göra.

Sunt förnuft. Vi tror alla att vi har det. Men vad är det egentligen? Kan datorer eller artificiella intelligenta system någonsin verkligen förvärva det?

Vad är sunt förnuft och hur förvärvar människor det?

Sunt förnuft är den grundläggande förmågan att uppfatta, förstå och bedöma saker som de flesta förväntas ha. Det är samlingen av fakta, information och tumregler som vi samlar på oss genom livserfarenheter och observationer. Sunt förnuft tillåter oss att effektivt bearbeta och reagera på vardagliga situationer utan att analysera dem för djupt.

Människor börjar tillägna sig sunt förnuft tidigt i barndomen. Som spädbarn börjar vi lära oss orsak-och-verkan-relationer – som att gråt leder till att vi får mat eller förändras. Genom upprepade erfarenheter får vi praktisk kunskap om världen. Att till exempel vidröra en varm spis resulterar i att man bränner sig. Så vi lär oss att inte röra vid heta ytor.

Som barn fortsätter vi att utöka vårt sunda förnuft genom försök och misstag och observera och interagera med familjemedlemmar. Till exempel inser vi att kläder måste tvättas regelbundet, du ska inte prata med munnen full och att välta ditt mjölkglas leder till en enda röra. Föräldrar, syskon, lärare och andra vuxna rättar oss när vi bryter mot samhällets normer och förväntningar. Med tiden är dessa lärdomar ingrodda som grundläggande sunt förnuft.

Förutom personliga erfarenheter formas sunt förnuft av bredare samhälleliga och kulturella normer. Det som kan vara sunt förnuft i en kultur (som att ta av skor när man går in i ett hem) kanske inte är det i en annan kultur.

Vårt sunda förnuft anpassar sig när vi mognar och utsätts för fler människor och miljöer. Så ett barn som växer upp i en liten stad får grundläggande sunt förnuft om livet i den miljön. En vuxen som flyttar till en storstadsstad måste anpassa sitt sunda förnuft för att passa den nya omgivningen.

Sunt förnuft fortsätter att utvecklas när vi har nya upplevelser under hela livet.

Varför är sunt förnuft utmanande för datorer?

Det finns några anledningar till varför sunt förnuft är svårt att programmera.

För det första lär sig människor sunt förnuft gradvis under åratal av att uppleva världen. Vi provar saker, ser vad som fungerar och vad som inte fungerar och kommer ihåg lektionerna. Datorer har inte den typen av verkliga upplevelser att dra ifrån. De vet bara vad människor uttryckligen säger till dem.

Till exempel ställde jag ChatGPT (GPT 3.5) denna fråga:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Det visade sig med detta svar:

En annan fråga är att sunt förnuft beror på sammanhang. Om en dator bara har specifika regler inprogrammerade kan den inte anpassa dem till nya sammanhang på det sätt som människor intuitivt kan.

Säg till exempel att du lärde en dator vad den ska göra om det börjar regna när det är ute. Verkar okomplicerat, eller hur? Men tänk om det istället för regn är en sprinkler som slår på? Eller tänk om det är inne i en mataffär, och rören börjar läcka vatten från taket? Vi skulle omedelbart veta hur vi skulle hantera dessa variationer, men en dator skulle blint följa regeln "när det regnar när det regnar ute, gå in", vilket nu är meningslöst.

Det finns också outtalade regler och antaganden som människor tar till sig utan att ens inse det. Som hur nära kan man stå bredvid någon innan det känns jobbigt? Människor vet intuitivt svaret men kanske inte lätt kan förklara de exakta reglerna. Dessa implicita sociala normer kan vara särskilt knepiga för datorer att fånga upp bara från data.

Så för tillfället är sunt förnuft fortfarande en av AI: s största svagheter jämfört med mänsklig intelligens. Det kommer naturligt för människor men inte så mycket för maskiner.

Hur datorer kan lära sig sunt förnuft

Efter tidig optimism på 1970- och 1980-talen insåg forskarna hur svårt det skulle vara att lära datorer sunt förnuft. Men nya tillvägagångssätt visar lovande när det gäller att träna AI-system för att ha grundläggande sunt förnuft om den vardagliga fysiska och sociala världen.

Ett tillvägagångssätt är att bygga omfattande kunskapsbaser för hand, med detaljerade fakta och regler om hur världen fungerar. Cyc-projektet, som startade 1984 av Doug Lenat, representerar en ambitiös insats av detta slag.

Hundratals logiker har kodat in miljontals logiska axiom i Cyc under decennier. Även om det är tidskrävande, är resultatet ett system med betydande verklig kunskap. Cyc kan tydligen resonera att en tomat tekniskt sett är en frukt men ändå inte borde gå i en fruktsallad, tack vare dess kunskap om kulinariska smakprofiler.

Crowdsourcing sunt förnuft med ConceptNet

Modernare kunskapsbaser som ConceptNet ta en crowdsourcing-strategi för att generera sunt förnuft. Tanken är att istället för att låta experter eller AI försöka komma på alla grundläggande fakta och relationer i världen, öppnar de upp det så att vem som helst kan bidra med bitar av sunt förnuft.

Detta tillvägagångssätt för crowdsourcing gör att dessa kunskapsbaser kan utnyttja den kollektiva intelligensen hos många olika människor över hela internet. Genom att samla tusentals och åter tusentals av dessa små sunt förnuftsbitar från mängden, byggde ConceptNet upp några förvånansvärt stora förråd av grundläggande, vardaglig kunskap. Och eftersom nya bidragsgivare alltid lägger till det, fortsätter kunskapen att växa.

Lära sunt förnuft genom erfarenhet

Ett annat lovande tillvägagångssätt är att bygga detaljerade simulerade världar där AI-agenter kan experimentera och lära sig om fysik och intuitioner genom erfarenhet.

Forskare skapar virtuella 3D-miljöer fyllda med vardagliga föremål som efterliknar den verkliga världen, som det digitala hemmet "AI2 THOR" byggt av Allen Institute. Inom dessa utrymmen kan AI-robotar prova alla typer av interaktioner för att utveckla en intuitiv förståelse för begrepp som människor tar för givna.

Till exempel kan en AI-bot få en virtuell kropp och försöka plocka upp block, stapla dem, välta dem osv. Genom att se blocken falla och kollidera realistiskt lär sig boten grundläggande föreställningar om soliditet, gravitation och fysisk dynamik. Inga regler behövs – bara erfarenhet.

Boten kan också prova åtgärder som att tappa ett glasföremål och se det splittras när det träffar marken. Eller så kan den experimentera med vattnets egenskaper genom att hälla vätskor och observera hur de rinner och samlas. Dessa praktiska lektioner grundar AI: s kunskap inom sensorisk erfarenhet och inte bara datamönster.

Datadrivna tekniker som förträning kraftfulla stora språkmodeller har också visat sig förvånansvärt effektiva på att fånga upp sunt förnuftsmönster. AI-modeller gillar GPT-3.5 och GPT-4 kan generera imponerande människoliknande text efter att ha "läst" stora mängder internetdata.

Medan de ibland kommer med okloka förslag (annars känd som AI-hallucination), tillåter den statistiska inlärningsmetoden dem att efterlikna vissa typer av sunt förnuft. Det finns dock fortfarande oenighet om huruvida detta utgör sunt förnuft eller ett smart utnyttjande av fördomar i data.

Hur man testar datorer för sunt förnuft

När system för artificiell intelligens tar på sig mer komplexa verkliga uppgifter, blir det avgörande att utvärdera om de har "sunt förnuft".

Fysiskt sunt förnuft

Ett område att testa är fysiskt sunt förnuft – intuition om föremål, krafter och grundläggande egenskaper hos världen.

Visa till exempel en datorseende system ett foto med en bok som svävar i luften och be den beskriva scenen. Antecknar den något ovanligt med den flytande boken? Eller mata AI-systemet med ovanliga scenarier som "mannen skivade en sten med en limpa" och kontrollera om det flaggar dem som osannolika.

Allen Institutes AI2 THOR-miljö simulerar blocktorn, utspillda muggar och andra scener för att testa dessa fysiska intuitioner.

Socialt sunt förnuft

Människor har också socialt sunt förnuft – en implicit förståelse av människors motivationer, relationer och normer. För att utvärdera detta i AI, ställ situationer med tvetydiga pronomen eller motiveringar och se om systemet tolkar dem rimligt.

Till exempel frågade jag ChatGPT om "det" syftade på resväskan eller trofén i prompten nedan:

The trophy could not fit into the suitcase because it was too small. 

Den klarade testet; under tiden skulle en människa uppenbarligen veta att jag syftade på resväskan.

Denna typ av test kallas Winograd Schema Challenge, specifikt inriktad på socialt sunt förnuft.

Säkerhet och etik

Att testa om AI-system har lärt sig osäkra eller oetiska mönster är avgörande. Analysera om AI: n uppvisar skadliga fördomar baserat på kön, ras eller andra attribut när du gör bedömningar.

Kontrollera om det gör rimliga etiska skillnader. Att döda en björn för att rädda ett barn kan anses vara motiverat medan det inte skulle detonera en atombomb i samma syfte. Flagga alla rekommendationer för klart oetiska handlingar.

Verkliga prestanda

Utvärdera sunt förnuft genom att observera hur AI-system fungerar i verkliga miljöer. Gör till exempel självkörande bilar identifierar och reagerar korrekt på föremål och fotgängare? Kan en robot röra sig genom olika hemmiljöer utan att gå sönder värdefulla föremål eller skada husdjur?

Verkliga tester avslöjar luckor i sunt förnuft som kanske inte uppstår under begränsade labbförhållanden.

Framsteg gjorda, men arbete återstår med AI med sunt förnuft

Vissa experter hävdar att AI aldrig kan nå mänskligt sunt förnuft utan att utveckla hjärnstrukturer och kroppar som vår. Å andra sidan är digitala sinnen inte begränsade av mänskliga fördomar och mentala genvägar, så teoretiskt sett kan de överträffa oss! Även om vi förmodligen inte behöver oroa oss för superintelligent AI ännu.

På kort sikt är det bästa alternativet AI som kombinerar inlärt sunt förnuft med lite gammaldags programmering. På så sätt kan dumma misstag som att missta en sköldpadda för ett gevär förhoppningsvis undvikas.

Vi är inte där än, men sunt förnuft är inte längre AI: s mörka materia – framsteg sker! Ändå kommer en hälsosam dos av mänskligt sunt förnuft att behövas för att tillämpa dessa tekniker under en tid.