Twitter-användare upptäcker potentiell rasbias i automatisk beskärningsalgoritm

Twitter försöker avgöra varför dess förhandsgranskningsfunktion visar tecken på rasbias. Flera användare fann att svarta ansikten var mer benägna att bli beskurna av förhandsgranskningar av foton jämfört med vita ansikten.

Ett fel i Twitters algoritm

När du ser en bild på Twitter är det bara en förhandsgranskning, du måste klicka på den för att se hela bilden. Twitter använder en algoritm för att beskära foton och diktera vad du ser i förhandsgranskningar av bilder.

2018 tillkännagav Twitter sin smarta automatisk beskärningsfunktion i ett inlägg på Twitter-blogg. Den här funktionen använder "salience" för att finslipa de mest framträdande delarna av foton och beskär sedan förhandsgranskningar av bilder därefter.

Twitter-användare upptäckte att plattformens neurala nätverk kan ha en rasbias. En användare publicerade en bild av den amerikanska senatorn Mitch McConnell tillsammans med tidigare president Barack Obama.

Förhandsgranskningen av bilden beskärs tydligt Obamas ansikte, även när hans ansikte är placerat högst upp på fotot. När samma användare försökte vända på bildens färger, såg Obamas ansikte äntligen upp i bildförhandsgranskningen.

Andra användare började genomföra sina egna experiment. Om och om igen fann användarna att algoritmen verkade konsekvent föredra vita ansikten framför svarta ansikten.

Liz Kelley, en medlem av Twitter-kommunikationsteamet, skickade ut en Tweet som svar på Twitter-användarnas resultat. Hon noterade att även om Twitter-teamet redan testade algoritmen för partiskhet, skulle det behöva undersöka det vidare.

Alla dessa upptäckter härstammar från en användares Tweet om a Problem med zoom-samtal. Zoom misslyckades kontinuerligt med att upptäcka sin svarta väns ansikte när han försökte använda en virtuell bakgrund. När användaren vände sig till Twitter för att publicera skärmdumpar av problemet beskär Twitter sin svarta vän ur bildförhandsgranskningen.

Ta Bias från Twitter

Även om alla dessa experiment är informella verkar de lyfta fram en riktig fråga. Twitter kommer definitivt att behöva titta närmare på funktionen för automatisk beskärning och se om den har en inbäddad rasförskjutning.

Med det sagt är inte Twitter-algoritmen för automatisk beskärning den enda Twitter-funktionen som kritiserats. När allt kommer omkring är många användare inte heller fans av plattformens algoritm som automatiskt ordnar ditt flöde.

Hur (och varför) inaktiverar algoritmiska flöden på Twitter, Instagram och Facebook

Algoritmiska flöden tjänar bara sociala nätverk. Så här byter du till kronologiska flöden på Twitter, Instagram och Facebook.

Om författaren