När det kommer till sociala medier vet vi alla att förutom de många fördelarna det ger med att skapa kontakter lättare, det kan också finnas vissa risker och faror med att interagera på nätet, särskilt för unga människor. Tack och lov finns det appar där ute som är proaktiva och försöker begränsa dessa skador som kan drabba unga människor genom att implementera lämplig modereringsteknik.
Yubo, appen för live social discovery som används mest av Gen Z, har meddelat att dess moderering av livestream-ljud teknologin expanderar till sina största marknader, nämligen USA, Storbritannien, Australien och Kanada.
Detta kommer efter flera månaders test av funktionen i vissa områden i USA, eftersom företaget lärde sig hur man löser problemen som kommer med att analysera ljud i realtid.
Vikten av innehållsmoderering
Att moderera innehåll online är ett svårt jobb att göra. Vi har sett detta med Facebook och Twitter och Instagram och så vidare. Mellan förolämpningar, hatiska kommentarer, eller till och med ibland våld eller självskada, är måttfullhet oerhört viktigt för att hålla dessa plattformar säkra och deras användare skyddade. Det är något med att kunna gömma sig bakom den förmodade anonymiteten som erbjuds av internet som kan få fram det värsta hos vissa människor.
Tja, Yubo fortsätter att visa att den gör allt den kan för att förhindra detta, särskilt eftersom dess användarbas är mycket yngre. Enligt Yubo är 99% av deras användarbas Gen Z i åldern 13-25. Även om trakasserier online inte är trevliga för någon att utstå, kan det vara särskilt skadligt för tonåringar.
Bild- och videomodereringsteknik har funnits ett tag och har implementerats med olika framgångsskeden. Ljudmoderering, har dock förblivit en stor utmaning, särskilt med liveströmmar. Oavsett om det är en livestream tagen när du går på gatan eller en där någon spelar ett tv-spel, det spelar ingen roll.
Hur Yubos ljudmoderering fungerar
Med start i maj 2022 började Yubo en testfas för sin ljudmodereringsteknik i olika områden i USA. Nu inkluderar nästa fas de flesta engelsktalande regioner där Yubo har en stor användarbas för att företaget ska kunna få bättre insikt i deras nya säkerhetsverktyg.
Även om det fortfarande är nytt, är detta en teknik som kan komma att användas flitigt för att upptäcka våld eller självskada i framtiden.
Yubo gör inte allt detta på egen hand, utan snarare i samarbete med Hive. Hive, om du inte har hört talas om dem, är ett företag som skapar och tillhandahåller API: er för innehållsmoderering för att bearbeta bilder och videor i nästan realtid.
Tekniken som Yubo implementerade fungerar genom att spela in och transkribera 10-sekunders ljudavsnitt i livestreamar av 10 eller fler personer. Texten analyseras omedelbart av artificiell intelligens för att upptäcka ord eller fraser som bryter mot appens Riktlinjer för communityn.
Vänta, det stannar inte här. Även om artificiell intelligens kan vara bra på att upptäcka sådana saker, är det fortfarande långt ifrån den punkt där den kan skilja mellan faktiska problematiska användningar och falska flaggor.
Falska flaggor kan till exempel vara låtar som spelas i bakgrunden eller ett lekfullt språk som inte är avsiktligt.
Så det är här Yubos säkerhetsspecialister kommer in i bilden, eftersom de tas in för att undersöka de flaggade incidenterna. Människor är de som får avgöra om en situation kräver eskalering eller inte om det finns handlingar som borde angripas mot folk som använder dåligt språk, eller till och med om brottsbekämpning måste väckas i.
Om livestreamen är helt ok, granskas inga transkriptioner eller hålls förbi en 24-timmarsgräns, så allt förblir privat; eller så privat som en livestream med över 10 personer kan vara.
Men om algoritmerna upptäcker våldsamma hot, hatretorik eller självskada, till exempel, lagras utskrifterna i upp till ett år. Detta är naturligtvis en säkerhetsåtgärd för företaget i fall brottsbekämpande kräver informationen eller företaget självt behöver detaljerna för ytterligare interna utredningar.
Yubos Chief Operating Officer, Marc-Antoine Durand, ser expansionen av ljudmoderering teknik som ett nyckelelement i utvecklingen av onlinesäkerhet i hela branschen.
"Det finns fortfarande många framsteg att göra inom området för röstdetektering, men vi är stolta över att skapa en väg för våra kamrater genom att att vara den första att lansera ljudmoderering med Hive och hjälpa till att göra det här verktyget mer tillförlitligt och effektivt genom denna testversion, säger Durand sa.
Uppenbarligen vill sociala plattformar inte ha skenande mobbning, hatretorik och våldsuppmuntrande kommentarer eftersom det skulle stöta bort andra användare. Att implementera sådan modereringsteknik är ett utmärkt verktyg för att hålla användarna säkra, och även för att garantera Yubos tillväxt och framgång på lång sikt.