Zdi se, kot da prepogosto vidimo novice o tem, da je bilo na enem ali drugem spletnem mestu družbenega medija storjeno kakšno hudo kaznivo dejanje, vključno z nezakonitimi objavami ali pretakanjem nasilne vsebine v živo. Zlahka se je vprašati, kako lahko v tej tehnološko napredni dobi takšne stvari zdrsnejo skozi razpoke.

Toda dejstvo je, da je praktično nemogoče učinkovito moderirati spletna mesta družbenih medijev. Zakaj? Obstaja nekaj razlogov.

Nekatera spletna mesta družbenih medijev so še v povojih ali pa so bolj nišna. Vendar imajo večja spletna mesta družbenih medijev obsežno bazo uporabnikov. Največja spletna mesta imajo od sto milijonov do milijard uporabnikov. Seveda je vsako tako veliko platformo težko spremljati.

Večina večjih družbenih omrežij to upravlja s kombinacijo poročanja skupnosti, algoritmov (nepopolno) usposobljenih za odkrivanje škodljive vsebine in nekaj človeških moderatorjev. Čeprav lahko član skupnosti ali umetna inteligenca opazi in prijavi škodljive informacije, ima zadnjo besedo človek (ali skupina ljudi). Poleg tega številna spletna mesta ponujajo pritožbeni postopek.

Spletna mesta družbenih medijev niso ogromna samo v smislu baze uporabnikov. Različne države in države imajo različne zakone o tem, kakšno vsebino je treba prijaviti in kako.

Podjetja družbenih medijev, ki so dejavna na različnih geografskih območjih, morajo torej pogosto imeti različne politike za različne uporabnike. To vključuje različne politike glede dezinformacij in zasebnosti. Pravzaprav, Twitter se je moral strinjati s posebnimi pogoji, da bi bil prepovedan v Nigeriji.

Še več, družbeni mediji so globalni pojav, vendar se to ne zgodi vedno v "globalnih" jezikih. Zaradi tega se družbe družbenih medijev lahko trudijo najti moderatorje vsebine, ki govorijo regionalne jezike, da bi zagotovile storitve po vsem svetu, ne da bi te uporabnike pustile ranljive za slabe akterje.

Dober primer je lastnik Facebooka Meta. Podjetje je bilo pred kratkim toži nekdanji moderator vsebine v Nairobiju ki trdi, da so moderatorji vsebin na tem območju zavedeni, da prevzamejo to vlogo.

3. Moderatorji hodijo po vrvi

Večina uporabnikov družbenih medijev si želi dvoje: želijo se počutiti varne in želijo se počutiti svobodne. Vzpostaviti ravnovesje med tema dvema željama je težavna naloga moderatorja vsebine.

Zamaknite se predaleč na eno stran in uporabniki se bodo počutili nadzorovane. Zavijte predaleč na drugo stran in uporabniki se bodo počutili zapuščene. Eden od načinov, kako se nekatera spletna mesta družbenih medijev temu izognejo, so moderatorji skupnosti.

Moderatorji skupnosti pomagajo izraziti, da je moderiranje nekaj, kar se izvaja iz strasti do promocije konstruktiven diskurz, ne da bi dovolili škodljive vsebine, ne pa iz želje po nadzoru ali zatiranju uporabnikov. Ta model je izziv v obsegu, čeprav različne platforme omogočajo, da deluje na različne načine.

Parler se je vrnil na splet po prilagoditvi politike moderiranja v skladu s politikami tretjih oseb. Imajo nekakšen sistem žirije skupnosti, ki bolj ali manj pride v poštev šele, ko je že prijavljena potencialno problematična objava. Dajanje prednosti poročilom uporabnikov je še en način, s katerim Parler pomaga razbremeniti svoje moderatorje.

4. Moderatorji se morajo držati dinamične linije

Moderatorji vsebin delujejo tudi v tem, kar se lahko zdi kot moralno sivo območje. Celo platforme z bolj svobodnim pogledom na moderiranje imajo pravila proti potencialno škodljivi ali nasilni vsebini. Nekatere objave so očitno škodljive ali nasilne, druge pa se nekaterim uporabnikom (ali moderatorjem) morda zdijo škodljive ali nevarne, drugim pa ne.

Mnoge platforme imajo tudi pravila proti drugim dejavnostim, kot je prodaja izdelkov ali storitev. To je lahko še težje področje za navigacijo, zlasti glede na velikost in obseg nekaterih spletnih mest.

Razmislite kaj počnejo moderatorji skupnosti Reddit. Kadarkoli se uporabniki pridružijo novi skupnosti, se jim takoj pošljejo pravila za to skupnost. Ta pravila so objavljena tudi ob strani vsake strani skupnosti. To omogoča, da ima vsaka skupnost podnabor pravil, prilagojenih njej, namesto splošnih pravil za celotno spletno mesto.

Zamisel o podreditih prav tako pomaga Redditu uporabljati moderatorje skupnosti v velikem obsegu. Moderatorji imajo nalogo, da moderirajo svoj subreddit, namesto da poskušajo patruljirati po celotnem spletnem mestu.

Končno se družbeni mediji premikajo zelo hitro. Ko izveste za problematično objavo, je to morda že precej po tem, ko jo je prvotni plakat odstranil. V primeru, da objava ni bila prijavljena, medtem ko je bila objavljena, je lahko naknadni odziv nanjo težaven.

V enem primeru leta 2015 je bila objava na spletnem mestu družbenih medijev YikYak prijavljena policiji s spremenjeno različico prvotne objave, ki je bila že odstranjena. Kar bi lahko interno rešili moderatorji spletnih vsebin, je postalo dolgotrajna pravna drama, ki je razburila celotno skupnost.

Številna spletna mesta družbenih medijev, vključno s Facebookom, imajo politike za ohranjanje sumljivih objav v primeru, da se jih je treba sklicevati v razvojnih situacijah, vključno s strani organov pregona.

Toda funkcije, kot je pretakanje v živo, pomenijo, da se vsebina dvigne sproti, kar lahko algoritmi spregledajo, dokler ni prepozno.

Vrzi kovanec svojemu moderatorju

Če na spletu opazite nekaj, kar vas skrbi, pojdite po ponujenih kanalih in to prijavite. Poskusite se izogniti razburjenju ali sumničavosti, ker je moderiranje družbenih medijev težko. Enako velja, če ste prijavljeni vi ali objava. Verjetno gre za dobronamerno potezo, da bi zaščitili uporabnike družbenih medijev.