Det känns som att vi alldeles för ofta ser nyheter om att ett eller annat grovt brott har begåtts på den ena eller andra sociala mediesidan, inklusive olagliga inlägg eller livestreaming av våldsamt innehåll. Det kan vara lätt att undra hur, i denna tekniskt avancerade tidsålder, sådana saker kan glida mellan stolarna.
Men faktum är att det är praktiskt taget omöjligt att moderera sociala medier effektivt. Varför? Det finns några anledningar.
Vissa sociala medier håller fortfarande på att börja eller är mer nischade. Men stora sociala medier har stora användarbaser. De största sajterna har mellan hundratals miljoner till miljarder användare. Naturligtvis är alla så stora plattformar svåra att övervaka.
De flesta stora sociala nätverk hanterar detta genom en kombination av community-rapportering, algoritmer (felaktigt) tränade för att upptäcka skadligt innehåll och några mänskliga moderatorer. Även om en communitymedlem eller AI kan upptäcka och rapportera skadlig information, är det en människa (eller grupp av människor) som har sista ordet. Och många webbplatser erbjuder en överklagandeprocess.
Sociala medier är inte bara enorma när det gäller deras användarbas. Olika stater och olika länder har olika lagar som rör vilken typ av innehåll som ska rapporteras och hur.
Så sociala medieföretag som är verksamma i olika geografiska områden måste ofta ha olika policyer för olika användare. Detta inkluderar olika policyer för felaktig information och integritet. Faktiskt, Twitter var tvungen att gå med på specifika villkor för att bli avstängd i Nigeria.
Ännu mer än så är sociala medier ett globalt fenomen men det händer inte alltid på de "globala" språken. Detta kan lämna sociala medieföretag att leta efter innehållsmoderatorer som talar regionala språk för att kunna tillhandahålla tjänster globalt utan att lämna dessa användare sårbara för dåliga aktörer.
Ett bra exempel är Facebook-ägaren Meta. Företaget var nyligen stämd av en före detta innehållsmoderator i Nairobi som hävdar att innehållsmoderatorer i området vilseleds att ta rollen.
3. Moderatorer går på lina
De flesta användare av sociala medier vill ha två saker: de vill känna sig trygga och de vill känna sig fria. Att hitta en balans mellan dessa två önskemål är innehållsmoderatorns knepiga uppgift.
Gå för långt åt ena sidan och användarna kommer att känna sig bevakade. Gå för långt till andra sidan och användare kommer att känna sig övergivna. Ett sätt som vissa sociala medier kan komma runt detta är genom community-moderatorer.
Gemenskapsmoderatorer hjälper till att uttrycka att moderering är något som görs av passion för att marknadsföra konstruktiv diskurs utan att tillåta skadligt innehåll snarare än av någon önskan att kontrollera eller förtrycka användare. Denna modell är utmanande i skala, även om olika plattformar gör att den fungerar på olika sätt.
Parler kom tillbaka online efter att ha justerat sin modereringspolicy för att följa tredjepartspolicyer. De har något av ett samhällsjurysystem som mer eller mindre bara kommer till spel efter att ett potentiellt problematiskt inlägg redan har rapporterats. Att prioritera användarrapporter är ett annat sätt som Parler hjälper till att lätta på sina moderatorer.
4. Moderatorer måste ta en dynamisk linje
Innehållsmoderatorer verkar också i vad som kan kännas som en moralisk gråzon. Även plattformar med en mer frispråkig syn på moderering har regler mot potentiellt skadligt eller våldsamt innehåll. Vissa inlägg är uppenbart skadliga eller våldsamma, medan andra kan verka skadliga eller farliga för vissa användare (eller moderatorer) men inte andra.
Många plattformar har också regler mot andra aktiviteter som att sälja produkter eller tjänster. Detta kan vara ett ännu svårare område att navigera, särskilt med tanke på storleken och omfattningen av vissa webbplatser.
Överväga vad Reddit community moderatorer gör. Varje gång användare går med i en ny gemenskap får de omedelbart reglerna för den gemenskapen. Dessa regler publiceras också på sidan av varje gemenskapssida. Detta gör att varje gemenskap kan ha en delmängd av regler som är skräddarsydda för sig snarare än allmänna regler för hela webbplatsen.
Idén med subreddits hjälper också Reddit att använda community-moderatorer i stor skala. Moderatorer har till uppgift att moderera sin subreddit snarare än att försöka patrullera hela webbplatsen.
Äntligen går sociala medier väldigt snabbt. När du hör om ett problematiskt inlägg kan det vara långt efter att originalaffischen har tagit ner det. I händelse av att inlägget inte rapporterades medan det var live kan det vara svårt att svara på det i efterhand.
I ett fall 2015 polisanmäldes ett inlägg på sociala medier YikYak med en ändrad version av det ursprungliga inlägget, som redan hade tagits bort. Det som kan ha lösts internt av innehållsmoderatorer på nätet blev ett utdraget juridiskt drama som upprörde en hel community.
Många sociala medier, inklusive Facebook, har policyer för att bevara misstänkta inlägg i händelse av att de behöver refereras i utvecklingssituationer, inklusive av brottsbekämpande myndigheter.
Men funktioner som livestreaming gör att innehållet går upp allt eftersom, vilket algoritmer kan missa tills det är för sent.
Kasta ett mynt till din moderator
Om du ser något på nätet som oroar dig, gå via de angivna kanalerna för att rapportera det. Försök att undvika att bli upprörd eller misstänksam eftersom det är svårt att moderera sociala medier. Detsamma gäller om du eller ett inlägg anmäls. Det är förmodligen ett välmenande drag för att hålla sociala medieanvändare säkra.
