Facebooks hat-tal-upptäcka AI lönar sig

Facebook förbättrar sin effektivitet när det gäller att känna igen och ta ner hatigt innehåll. Plattformens Rapport om efterlevnad av gemenskapsnormer visar en betydande minskning av förekomsten av hatprat under det sista kvartalet 2020.

Hat tal på Facebook har doppat

I Facebooks rapport om genomförande av gemenskapsnormer för oktober till december 2020 avslöjade plattformen stora förbättringar i hur Facebook hanterar hatprat. Guy Rosen, Facebooks vice ordförande för integritet gjorde ett inlägg på bloggen Om Facebook för att markera dess framgång.

För varje 10 000 visningar av Facebook-innehåll var bara sju till åtta visningar om hatligt innehåll. Facebook agerade också på 6,3 miljoner mobbnings- och trakasserier, en ökning från 2,5 miljoner inlägg under kvartal tre.

Plattformen kunde också fånga 6,4 miljoner organiserade hatinnehåll, vilket är massivt förbättring jämfört med de fyra miljoner innehållsdelarna som Facebook tog bort i föregående fjärdedel.

Rapporten om upprätthållande av gemenskapsnormer visade liknande förbättringar på Instagram. Fem miljoner inlägg om trakasserier och mobbning togs bort på Instagram, tillsammans med 6,6 miljoner innehållsinnehåll som innehåller hatprat och 308 000 organiserade hatinnehåll. Alla dessa siffror överträffar statistiken som registrerades i kvartal tre.

Facebooks proaktiva takt, annars känd som mängden innehåll Facebook tar bort innan en användare rapporterar det, förbättrades också. För mobbning och trakasserier ökade plattformens proaktiva andel från 26 procent till 49 procent på Facebook och från 55 procent till 80 procent på Instagram.

Facebooks hat-upptäcka AI har spelat en viktig roll för att öka sitt svar på hatprat. Rosen konstaterar att plattformen har gjort förbättringar av sin AI "där nyans och sammanhang är väsentliga, t.ex. hatprat eller mobbning och trakasserier, "som i slutändan hjälpte till att minska mängden hatigt innehåll på Facebook.

Facebooks AI tacklar uppgången i hatigt innehåll

Facebooks hatupptäckande AI har hjälpt plattformen att fånga hatprat innan det ens rapporteras.

Mike Schroepfer, Facebooks teknologichef, skrev ett separat inlägg bloggen Om Facebook för att fira resultaten av Facebooks ständigt förbättrade AI. Trots de senaste prestationerna hoppas Schroepfer att Facebooks AI kan bli bättre "att visa innehåll i sammanhang över olika språk, kulturer och geografier."

Facebooks AI blir smartare

Facebook började förlita sig mer på sitt AI-system för att utvärdera hatigt innehåll på grund av den pågående COVID-19-pandemin. Rosen noterade att Facebook-teamet sannolikt fortfarande kommer att påverkas av pandemin "tills ett vaccin är allmänt tillgängligt."

Även om Facebooks moderatorer en dag kommer att återgå till sitt arbete som normalt, verkar det inte som om plattformens AI går någonstans. Facebook har bara gjort sin AI smartare och effektivare, och det verkar inte som att Facebook planerar att sluta utvecklas när som helst snart.

Facebook förbättrar AI-bildbeskrivningar för synskadade användare

Facebooks automatiska alternativa textverktyg kan nu exakt beskriva bilder mer detaljerat.

Om författaren