AI Gone Rogue: 6 gånger gick AI för långt

Från röstigenkänningsenheter till intelligenta chatbots, AI har förändrat våra liv. Men varje bra sak har också en nackdel, och AI är inget undantag från denna regel. Ledande teknikpersoner har varnat för de hotande farorna med AI, inklusive Stephen Hawking, som sa att det kan vara den "värsta händelsen i vår civilisations historia."

Här är sex gånger AI gick lite för långt och fick oss att klia oss i huvudet.

1. Den akademiska studien som använde AI för att förutsäga brottslighet

Akademisk forskning är ryggraden i vetenskapliga framsteg och kunskap. Vissa säger dock att forskare gick ett steg för långt när en akademisk studie använde AI för att förutsäga brottslighet från ansikten.

Forskare från Harrisburg University tillkännagav 2020 att de hade utvecklat mjukvara för ansiktsigenkänning som kunde förutsäga om någon skulle vara kriminell. Programvaran skulle påstås kunna förutsäga från ett enda foto av ett ansikte med en 80 % noggrannhet och ingen rasfördom.

I en scen som påminner om Minority Report tillkännagavs att programvaran utvecklats för att hjälpa brottsbekämpning.

Som svar på detta tillkännagivande, 2425 experter undertecknade ett brev uppmanar tidskriften att inte publicera denna studie eller liknande forskning i framtiden eftersom denna typ av teknik kan reproducera orättvisor och orsaka verklig skada för samhället. Som svar meddelade Springer Nature att de inte skulle publicera forskningen, och Harrisburg University tog bort pressmeddelandet som beskriver studien.

2. Skiin Smart Underkläder

Textila innovationer som integrerar AI innebär att din smartphone inte är det enda som blir smartare.

Skiins smarta underkläder lovar att få dig att känna att du har på dig dina favoritunderkläder samtidigt som du fångar biometri som inkluderar puls, hållning, kroppstemperatur, plats och steg.

Relaterad: Vad är smarta tyger och hur kan de göra ditt liv smartare?

Sensorer inbyggda i underkläderna samlar och analyserar kontinuerligt din biometriska data, med insikter tillgängliga från Skiins motsvarande smartphone-app.

Även om det kan ta ett tag att komma ihåg att ladda dina underkläder varje kväll, var det möjligt för designers att placera sensorerna någon annanstans på kroppen?

3. DeepNude-appar

Deepfake-teknik verkar som ofarligt roligt för den genomsnittliga användaren som vill spela en scen från sin favoritfilm. Det finns dock en mörkare sida av denna trend, eftersom Deeptrace rapporterade 2019 att 96 % av deepfakes hade explicit innehåll.

DeepNude var en AI-driven app som genererade realistiska bilder av nakna kvinnor med ett klick på en knapp. Användare skulle helt enkelt behöva ladda upp en klädd bild av målet, och appen skulle generera en falsk nakenbild av dem.

Strax efter att appen släpptes meddelade skaparen att han skulle ta bort den från internet på grund av viral motreaktion.

Även om detta var en seger för kvinnor över hela världen, svävar liknande appar fortfarande runt på webben. Till exempel, Sensitys rapport på deepfake bots undersökte underjordiska deepfake bots på Telegram som används för att skapa falska nakenbilder av kvinnor.

Under tiden, tills lagen kommer ikapp deepfake-tekniken, finns det få juridiska skydd på plats för personer som är offer för deepfake explicit innehåll.

4. Tay, Microsofts nazistiska chatbot

2016 släppte Microsoft en AI-chatbot vid namn Tay på Twitter. Tay designades för att lära sig genom att interagera med Twitters användare genom tweets och foton.

På mindre än 24 timmar förvandlades Tays personlighet från en nyfiken tusenårig tjej till ett rasistiskt, inflammatoriskt monster.

Till en början designades Tay för att replikera kommunikationsstilen hos en amerikansk tonårsflicka. Men när hon växte i popularitet började några användare twittra inflammatoriska meddelanden relaterade till kontroversiella ämnen till Tay.

I ett fall twittrade en användare, "hände förintelsen?" varpå Tay svarade: "Det var påhittat." Inom 16 timmar efter det att det släpptes stängde Microsoft av Tays konto med hänvisning till att det hade varit föremål för en samordnad ge sig på.

Relaterad: De bästa Android Chatbots som kommer att hålla dig underhållen

5. "Jag kommer att förstöra människor"

Hanson Robotics hade varit upptagen med att utveckla humanoida robotar i flera år när de debuterade med Sophia på SXSW-konferensen i mars 2016.

Sophia tränades med maskininlärningsalgoritmer för att lära sig konversationsförmåga, och hon har deltagit i flera tv-sända intervjuer.

I sitt första offentliga framträdande lämnade Sophia ett rum fullt av teknikproffs chockade när Hanson Robotics VD David Hanson frågade henne om hon ville förstöra människor, som hon svarade: "Ok. Jag kommer att förstöra människor".

Även om hennes ansiktsuttryck och kommunikationsförmåga är imponerande, går det inte att ta tillbaka den där mordiska bekännelsen.

6. seebotschat

Google Home-enheter är utmärkta virtuella assistenter som hjälper till att förenkla ditt liv.

Teamet bakom seebotschat Twitch-kontot hade en briljant idé: lägg två Google Home-enheter bredvid varandra, låt dem prata och streama resultatet online.

Med en publik på över 60 000 följare och miljontals visningar online var resultatet fängslande och ibland lite läskigt.

De autonoma enheterna, vid namn Vladimir och Estragon, gick från att diskutera det vardagliga till att utforska djupa existentiella frågor som livets mening. Vid ett tillfälle hamnade de i ett hett argument och anklagade varandra för att vara robotar, medan de senare började diskutera kärlek – innan de började bråka igen.

Finns det något hopp för framtiden för AI och mänsklig diskurs om två virtuella assistentrobotar snabbt övergår till att kasta förolämpningar och hot mot varandra.

Rogue AI: Vilket är vårt bästa försvar?

Det råder ingen tvekan om att AI kan förbättra våra liv. Men på samma sätt kan AI också orsaka oss stor skada.

Att hålla ett öga på hur AI tillämpas är viktigt för att säkerställa att det inte skadar samhället. Till exempel säkerställde expert pushback att AI-programvaran som påstås kunna förutsäga brottslighet aldrig släpptes. På samma sätt ryckte DeepNudes skapare appen från webben efter att den fått viral internetreaktion.

Att kontinuerligt övervaka AI-applikationer är nyckeln för att säkerställa att det inte gör mer skada än nytta för samhället.

Är AI farligt? 5 Omedelbara risker med artificiell intelligens

AI har så många fördelar, men hur är det med de omedelbara riskerna det innebär för mänskligheten?

Läs Nästa

Om författaren