Twitter försöker avgöra varför dess förhandsgranskningsfunktion visar tecken på rasbias. Flera användare fann att svarta ansikten var mer benägna att bli beskurna av förhandsgranskningar av foton jämfört med vita ansikten.
Ett fel i Twitters algoritm
När du ser en bild på Twitter är det bara en förhandsgranskning, du måste klicka på den för att se hela bilden. Twitter använder en algoritm för att beskära foton och diktera vad du ser i förhandsgranskningar av bilder.
2018 tillkännagav Twitter sin smarta automatisk beskärningsfunktion i ett inlägg på Twitter-blogg. Den här funktionen använder "salience" för att finslipa de mest framträdande delarna av foton och beskär sedan förhandsgranskningar av bilder därefter.
Twitter-användare upptäckte att plattformens neurala nätverk kan ha en rasbias. En användare publicerade en bild av den amerikanska senatorn Mitch McConnell tillsammans med tidigare president Barack Obama.
Försöker ett hemskt experiment ...
- Tony “Abolish ICE” Arcieri 🦀 (@bascule) 19 september 2020
Vilken kommer Twitter-algoritmen att välja: Mitch McConnell eller Barack Obama? pic.twitter.com/bR1GRyCkia
Förhandsgranskningen av bilden beskärs tydligt Obamas ansikte, även när hans ansikte är placerat högst upp på fotot. När samma användare försökte vända på bildens färger, såg Obamas ansikte äntligen upp i bildförhandsgranskningen.
Andra användare började genomföra sina egna experiment. Om och om igen fann användarna att algoritmen verkade konsekvent föredra vita ansikten framför svarta ansikten.
Liz Kelley, en medlem av Twitter-kommunikationsteamet, skickade ut en Tweet som svar på Twitter-användarnas resultat. Hon noterade att även om Twitter-teamet redan testade algoritmen för partiskhet, skulle det behöva undersöka det vidare.
tack till alla som tog upp detta. vi testade för partiskhet innan vi skickade modellen och fann inga bevis för ras- eller könsfördomar i våra test, men det är tydligt att vi har fått mer analys att göra. vi öppnar vårt arbete så att andra kan granska och replikera. https://t.co/E6sZV3xboH
- liz kelley (@lizkelley) 20 september 2020
Alla dessa upptäckter härstammar från en användares Tweet om a Problem med zoom-samtal. Zoom misslyckades kontinuerligt med att upptäcka sin svarta väns ansikte när han försökte använda en virtuell bakgrund. När användaren vände sig till Twitter för att publicera skärmdumpar av problemet beskär Twitter sin svarta vän ur bildförhandsgranskningen.
Ta Bias från Twitter
Även om alla dessa experiment är informella verkar de lyfta fram en riktig fråga. Twitter kommer definitivt att behöva titta närmare på funktionen för automatisk beskärning och se om den har en inbäddad rasförskjutning.
Med det sagt är inte Twitter-algoritmen för automatisk beskärning den enda Twitter-funktionen som kritiserats. När allt kommer omkring är många användare inte heller fans av plattformens algoritm som automatiskt ordnar ditt flöde.
Algoritmiska flöden tjänar bara sociala nätverk. Så här byter du till kronologiska flöden på Twitter, Instagram och Facebook.
- Sociala media
- Tekniska nyheter
Emma är Senior Writer och Junior Editor för sektionerna Internet och Creative. Hon tog examen med en kandidatexamen på engelska och kombinerar sin kärlek till teknik med skrivande.
Prenumerera på vårt nyhetsbrev
Gå med i vårt nyhetsbrev för tekniska tips, recensioner, gratis e-böcker och exklusiva erbjudanden!
Ett steg till…!
Bekräfta din e-postadress i e-postmeddelandet som vi just skickade till dig.