Twitter avslöjar att det avskräckt AI-beskärning på grund av ras och könsförskjutning

Första gången vi hörde tanken att Twitters bildbeskärningsalgoritm kan ha vissa fördomar var i september 2020. Kryptografiingenjören Tony Arcieri laddade upp två bilder med senatens majoritetsledare Mitch McConnell och före detta president Barack Obama, och AI skurna till McConnells ansikte båda gånger.

När kontroversen så småningom nådde folket på Twitter lovade företaget att analysera sin modell. Slutligen får vi läsa igenom dessa resultat.

Twitter delar resultaten av sin algoritmanalys

I början av maj Twitter rullade äntligen ut förhandsgranskningar i full storlek på sina mobila tidslinjer. Ett inlägg på Twitter-bloggen har avslöjat att appen axlade sin bildbeskärningsalgoritm efter att en analys visade att den hade ras och könsbaserade fördomar.

Plattformen började använda en viktighetsalgoritm 2018 för att beskära sina bilder. Twitter säger att viktighetsmodeller tränas på mänskliga ögonspårningsdata, som sedan används av algoritm för att uppskatta vilka ämnen / element i bilden den anser är mest sannolikt att vara viktigast för de flesta människor.

Algoritmen skulle då komma fram till en salinitetspoäng för alla delar av bilden innan den väljer den punkt med den högsta poängen som centrum för grödan.

Efter att ha kört ett kvantitativt test för att kontrollera potentiella fördomar fann teamet att salionsalgoritmen tycktes gynna kvinnor framför män och vita individer framför svarta individer.

Twitter testade också algoritmen för "manlig blick", men inga bevis för objektiviseringsbias hittades.

Även om viktighetsalgoritmen justerades för att återspegla perfekt jämställdhet mellan ras- och könsundergrupper, är vi [Twitter] oroliga av representationsskada av den automatiserade algoritmen när människor inte får representera sig själva som de vill på plattform. Salience har också andra potentiella skador utanför denna analys, inklusive okänslighet för kulturella nyanser.

När man överväger avvägningarna mellan automatiskt beskärningens hastighet och konsekvens och dess risker, Twitter säger att teamet insåg att hur man beskär en bild är ett beslut som bäst fattas av människor - inte algoritmer.

Relaterad: Tekniktrender som redan förändrar framtiden

Twitter blir av med automatisk bildbeskärning

Twitter använder inte längre salinitetsalgoritmen och visar nu standardbildförhållandefoton i sin helhet på både iOS och Android. När du skapar en tweet kommer du att upptäcka att den nya uppdateringen också innehåller en riktig förhandsgranskning av uppladdade bilder, så att du vet hur allt kommer att se ut när det har publicerats.

Om du är intresserad av att läsa studiens akademiska uppsats kan du hitta den på arXiv.org. Du kan också hitta Twitters kod för analysen på GitHub.

Så här laddar du upp och visar 4K-bilder på Twitter

Med Twitter-appen kan du nu ladda upp och visa bilder i 4K. Så här ändrar du dina inställningar.

Läs Nästa

Om författaren