Annons

Facebook, Twitter, Microsoft och YouTube har meddelat att de skulle arbeta tillsammans för att bygga en massiv databas. Denna databas innehåller bilder och videor används av terroristnätverk Brott, terrorism och säkerhet: Sociala mediers mörka sidaSociala medier är inte bara kattmemes och prankvideor. Facebook-, Twitter- och Tumblr-användare kan lika lätt stöta på mörkare material som distribueras av tekniskt skickliga terroristgrupper. Vad ska du göra åt det? Läs mer att sprida propaganda och nå ut till potentiella rekryter. Databasen kommer att varna dessa företag när något på deras webbplats troligen bryter mot deras användarvillkor.

Verkar som en bra idé, eller hur?

Detaljerna

Just nu är detaljer lite oklara. Varje bild och video i databasen kommer att ha ett "unikt digitalt fingeravtryck" och företag kommer att varnas när innehållet dyker upp på deras webbplats. I början av programmet kommer företagen bara att lägga till "de mest extrema och onda terroristbilder och videor" i databasen.

instagram viewer
twitter terrorism partnerskap

Tanken är att dessa bilder och videoklipp är de mest troliga att bryta mot villkor Varför du bör läsa användarvillkoren, få Pokémon GO gå bort... [Tech News Digest]Alla hoppar förbi användarvillkoren, PokeGone förvandlar Pokémon GO till Pokémon NEJ, Facebook håller dina samtal hemliga, Blizzard tystar douchebag World of Warcraft-spelare och Samuel L. Jackson förklarar Game of Thrones. Läs mer av alla plattformar. Detta gör det till ett enkelt beslut att ta bort innehållet om det dyker upp någon annanstans. Varje företag får bestämma vilken bild och videoklipp som ska finnas i databasen. De har också möjlighet att besluta om de vill ta bort innehåll om det dyker upp på deras webbplats.

Det är ganska mycket allt vi vet hittills. Twitter hoppas ”detta samarbete kommer att leda till ökad effektivitet när vi fortsätter att upprätthålla vår policy för att hjälpa till att begränsa den pressande globala frågan om terroristinnehåll online. ” Men vi vet verkligen inte så mycket långt. Vem bestämmer vilket innehåll som ska bidra? Kommer företag att inrätta oberoende granskningskommittéer för den här typen av saker? Eller kommer de bara att lägga till några saker då och då när de känner för det?

En dålig post

Det är verkligen svårt att polisera innehåll online. Oavsett om det är felinformation, missbruk, terroristrekryteringsfilmer Hur sociala medieplattformar strider mot extremisterSociala medienätverk presenterar ett kraftfullt verktyg för terroristgrupper, främst för propaganda och rekrytering. Så vad gör Facebook och Twitter med det här? Hur kan sociala nätverk bekämpa terrorism? Läs mer , eller en av de otaliga andra typerna av dåligt innehåll på nätet, det finns ett minfält av problem som ligger i processen. Vem bestämmer vilka grupper som kvalificerar sig som terrorister? Hur fattas beslutet om att ta bort innehåll? Kommer företagen att leta efter det, eller förlita sig på att användare rapporterar det?

Microsoft sade i sitt uttalande om terroristinnehåll online:

När terroristinnehåll på våra värdtjänstkonsumenttjänster uppmärksammas via vårt online rapporteringsverktyg, tar vi bort det.

Och de ger en länk till ett formulär som specifikt används för att rapportera terroristinnehåll. Men hur troligt är det att någon faktiskt söker och använder den formen? De säger också att de kommer att "ta bort länkar till terroristrelaterat innehåll från Bing endast när den borttagningen krävs av sökleverantörer enligt lokal lag."

Detta sätter ytterligare ansvaret någon annanstans.

Ansvarsfrågor

Electronic Frontier Foundation har skrivit mycket om svårigheterna med att polisera denna typ av innehåll online. I ett inlägg från 2014 kritiserade de Storbritanniens plan att tvinga Internetleverantörer att blockera "extremistiskt innehåll" utan insyn och ansvarsförfaranden. Mänskliga rättighetsgrupper har också kritiserat Frankrike för att de har mycket breda definitioner av terroristaktiviteter.

Både Twitter och Facebook har ganska dåliga poster med polisinnehåll på deras webbplatser Hur sociala medieplattformar strider mot extremisterSociala medienätverk presenterar ett kraftfullt verktyg för terroristgrupper, främst för propaganda och rekrytering. Så vad gör Facebook och Twitter med det här? Hur kan sociala nätverk bekämpa terrorism? Läs mer . Även om Twitter har tagit bort över 100 000 ISIS-relaterade Twitter-konton och börjat polisera hatprat grupper starkare, de har ett dåligt rykte för att låta extremism och övergrepp springa ut på deras plattform. Facebook verkar också nöjda med att fortsätta använda en hands-off-strategi under fria yttrandebanret.

Naturligtvis är det ganska svårt att hantera den här typen av ansvar. Jag säger inte att det är lätt. Men teknikföretag är skickliga på att distansera sig från vad deras teknik används för. Det inkluderar spridning av terroristbilder, videor, rekryteringsdrivrutiner och annat innehåll. I augusti 2016, a Brittisk rapport uppgav att Facebook, Twitter och YouTube "medvetet misslyckades med att bekämpa användningen av sina webbplatser för att främja terrorism och dödande."

Inrättandet av en databas med bilder och videor verkar inte sannolikt förändra det. Det är uppmuntrande att de vidtar åtgärder, men det är svårt att föreställa sig att det är mer än halvhjärtat.

Kan detta vara ett integritetsproblem?

Eftersom företag kommer att lägga till objekt manuellt till databasen när användare rapporterar dem, gör det inte det verkar som om det finns en chans att dina bilder eller videor av misstag kan hitta sin väg in i databas. Vilket är uppmuntrande. Det är dock oroväckande att skapa en massiv central databas full av unikt identifierat "dåligt" innehåll.

Detta beror till stor del på att de ansvariga vid den tiden får besluta vad som räknas som ”dåligt”. Detta gäller särskilt om det finns statligt engagemang. Du kan vara en del av majoriteten en dag, och i en förföljd minoritet nästa dag. Implementeringen av denna typ av teknik gör den typen av förändring ännu skrämmande.

överensstämmelse mapp
Bildkredit: ESB Professional via Shutterstock

Naturligtvis finns det inget som tyder på att dessa företag kommer att använda den här databasen för allt annat än slapp tillämpning av sina egna användarvillkor. Men det faktum att privata organisationer har utvecklat och använder denna teknik kan ha vissa människor oroliga. Regeringar har säkert övervakningstekniker som redan är så kraftfulla, men spridning kan vara ett tecken på att företag kommer att ha verktyg för att samla in mer information inom en snar framtid.

Just nu finns det ingen anledning att oroa dig för att din integritet kommer att äventyras av terroristinnehållsdatabasen. Men organisationer för privatliv och försvar Vem kämpar för din motståndskraft mot NSA och för privatlivet?Det finns flera internetaktivismgrupper som kämpar för dina räkning för integritet. De gör sitt bästa för att utbilda netizens också. Här är bara några av dem som är oerhört aktiva. Läs mer skulle göra det bra att hålla ett öga på utvecklingen av denna typ av teknik någon annanstans.

Ett steg framåt?

Det är bra att se att teknikföretag stärker och är proaktiva när det gäller terrorisminnehåll på sina plattformar. Men deras rekord är full av slappa verkställighet och avsiktlig försummelse. Kommer det här verktyget att hjälpa till att vända det? Det verkar osannolikt. (Om de inte automatiserar det, som kommer med en hel mängd andra problem.) Enligt min mening kommer den här databasen inte att förändras mycket, och Twitter, Facebook, Microsoft och YouTube har mycket väl tänkt det som en PR-åtgärd istället för en som egentligen var tänkt att göra gör gott.

Vad tror du? Kommer denna databas att bekämpa spridningen av terroristinnehåll online? Eller är det en tom gest i ett försök att få viss allmän beundran? Dela dina tankar i kommentarerna nedan!

Bildpoäng: Yunava1 / Shutterstock

Dann är en innehållsstrategi och marknadskonsult som hjälper företag att skapa efterfrågan och leder. Han bloggar också om strategi och innehållsmarknadsföring på dannalbright.com.