Ko gre za družbene medije, vsi vemo, da poleg številnih prednosti, ki jih ponujajo pri vzpostavljanju povezav lažje, lahko obstajajo tudi določena tveganja in nevarnosti, ki jih spletna interakcija prinaša, zlasti za mlade. K sreči obstajajo aplikacije, ki so proaktivne in poskušajo omejiti to škodo, ki jo lahko prizadenejo mladi, z uporabo ustreznih tehnologij moderiranja.
Yubo, aplikacija za družbeno odkrivanje v živo, ki jo najpogosteje uporablja generacija Z, je objavila, da bo moderirala zvok v živo tehnologija se širi na svoje največje trge, in sicer v ZDA, Združeno kraljestvo, Avstralijo in Kanada.
To je prišlo po večmesečnem testiranju funkcije na nekaterih območjih Združenih držav, ko se je podjetje naučilo, kako se spopasti s težavami, ki nastanejo pri analiziranju zvoka v realnem času.
Pomen moderiranja vsebine
Moderiranje spletne vsebine je težko delo. To smo videli pri Facebooku, Twitterju in Instagramu itd. Ne glede na žalitve, sovražne komentarje ali celo včasih nasilje ali samopoškodovanje je moderiranje zelo pomembno, da so te platforme varne in njihovi uporabniki zaščiteni. Nekaj je v tem, da se lahko skriješ za domnevno anonimnostjo, ki jo ponuja internet, kar lahko iz nekaterih ljudi izvabi najslabše.
No, Yubo še naprej kaže, da dela vse, kar je v njegovi moči, da bi to preprečil, še posebej, ker je njegova baza uporabnikov veliko mlajša. Po navedbah Yuba je 99 % njihove uporabniške baze generacija Z, starih od 13 do 25 let. Medtem ko spletnega nadlegovanja ni prijetno prenašati, je lahko še posebej škodljivo za najstnike.
Tehnologija za moderiranje slik in videoposnetkov obstaja že nekaj časa in je bila implementirana z različnimi stopnjami uspeha. Zvočno moderiranje, vendar je še vedno velik izziv, zlasti pri prenosih v živo. Ne glede na to, ali gre za prenos v živo, posnet med hojo po ulici, ali za prenos, kjer nekdo igra video igro, ni pomembno.
Kako deluje moderiranje zvoka Yubo
Od maja 2022 je Yubo začel poskusno fazo za svojo tehnologijo moderiranja zvoka na različnih območjih po Združenih državah. Zdaj naslednja faza vključuje večino angleško govorečih regij, kjer ima Yubo veliko bazo uporabnikov, da bi podjetju omogočili boljši vpogled v njihovo novo varnostno orodje.
Čeprav je to še vedno nova, je to tehnologija, ki bi se lahko v prihodnosti pogosto uporabljala za odkrivanje nasilja ali samopoškodovanja.
Yubo tega ne počne sam, ampak v sodelovanju s Hive. Hive, če še niste slišali za njih, je podjetje, ki ustvarja in zagotavlja API-je za moderiranje vsebine za obdelavo slik in videoposnetkov v skoraj realnem času.
Tehnologija, ki jo je implementiral Yubo, deluje tako, da snema in prepisuje 10-sekundne izrezke zvoka v livestreamih 10 ali več ljudi. Besedilo takoj analizira umetna inteligenca, da odkrije vse besede ali besedne zveze, ki kršijo pravila aplikacije. Smernice skupnosti.
Počakajte, tu se ne ustavi. Čeprav je umetna inteligenca lahko odlična pri odkrivanju takšnih stvari, je še daleč od točke, ko bi lahko razlikovala med dejansko problematično uporabo in lažnimi zastavicami.
Lažne zastave so lahko na primer pesmi, ki se predvajajo v ozadju, ali igriv jezik, ki ni zlonameren.
Tu torej nastopijo Yubovi varnostni strokovnjaki, ki so privabljeni, da raziščejo označene incidente. Ljudje smo tisti, ki lahko ugotovimo, ali je treba situacijo stopnjevati ali ne, če pride do dejanj ki jih je treba sprejeti proti ljudem, ki uporabljajo grd jezik, ali celo, če je treba pripeljati organe pregona v.
Če je pretakanje v živo povsem v redu, se prepisi ne pregledajo ali hranijo čez 24-urno omejitev, tako da vse ostane zasebno; ali tako zasebno, kot je lahko pretakanje v živo z več kot 10 ljudmi.
Če pa algoritmi zaznajo na primer nasilne grožnje, sovražni govor ali samopoškodovanje, se prepisi shranijo do enega leta. To je seveda varnostni ukrep za podjetje, če organi kazenskega pregona zahtevajo podatke ali če podjetje samo potrebuje podrobnosti za nadaljnje notranje preiskave.
Yubov glavni operativni direktor, Marc-Antoine Durand, vidi širitev zvočno moderiranje tehnologija kot ključni element v razvoju spletne varnosti v celotni industriji.
»Na področju zaznavanja glasu je treba narediti še veliko napredka, vendar smo ponosni, da utiramo pot svojim vrstnikom tako, da kot prvi, ki je uvedel zvočno moderiranje s Hive in s tem poskusom pomagal narediti to orodje bolj zanesljivo in učinkovito,« Durand rekel.
Očitno je, da socialne platforme ne želijo divjega ustrahovanja, sovražnega govora in komentarjev, ki spodbujajo nasilje, saj bi to odgnalo druge uporabnike. Implementacija takšne moderacijske tehnologije je odlično orodje za zaščito uporabnikov in tudi za dolgoročno pomoč pri zagotavljanju rasti in uspeha Yuba.
