Moderatorji: Skrbniki spleta, ki jih pesti PTSD
Ko brskamo po Facebooku, Twitterju in Youtubu ter se jezimo nad poplavo rasističnih in šovinističnih komentarjev, neprimernimi videi ali objavami o ploščati Zemlji, se najverjetneje ne zavedamo, kakšnih grozot sploh ne vidimo, ker za to poskrbi vojska tisočih moderatorjev po svetu. A ne brez posledic.
Nekaj dela opravijo algoritmi, a vendar večino odločitev, ali naj določena vsebina ostane na spletu ali ne, še vedno sprejmejo ljudje. Včasih gre za avtorske pravice, drugič za sovražni govor, tretjič za samo dno človeštva, umore, trpinčenje živali in ljudi, zlorabo otrok. In nekdo mora vse to pogledati, da je nam prihranjeno. A najbolj mučnih vsebin večinoma ne gledajo v pisarnah Googla, Facebooka, Twitterja in drugih tehnoloških podjetij, saj, kot je za The Verge izjavila Kristie Canegallo, Googlova podpredsednica oddelka za zaupanje in varnost, se z zunanjimi sodelavci lažje prilagajajo in bolje gospodarijo s človeškimi viri.
Za moderatorje je dan, ko jih bo zamenjala umetna inteligenca (kar glede na posledice tega dela ne bi bilo napak, a o tem več spodaj) še daleč, toda njena izjava dobro povzame odnos tehnoloških podjetij do zaposlenih (oziroma do ljudi nasploh). Moderatorji namreč z vnašanjem natančnih podatkov o vsebinah, ki jih odstranijo, in vzrokih za njihov izbris dnevno učijo algoritme, ob tem pa zaradi narave dela (predvsem tisti, ki se v veliki meri ukvarjajo z najbolj nasilnimi in najbolj mučnimi vsebinami) pogosto trpijo za psihičnimi težavami. Veliko je primerov posttravmatskega stresa, depresij in napadov panike, pogoste pa so tudi blažje težave, kot so motnje spanja in težave s koncentracijo. Na stres se seveda vsak odziva na drugačen način, nekatere pesti utrujenost, drugi prekomerno jedo, tretji posežejo po alkoholu in drogah, četrti se intenzivno ukvarjajo s športom. Peter, moderator vsebin Youtuba, ki so označene kot nasilni ekstremizem, dela za podjetje Accenture in je za The Verge povedal, da je zaradi stresa v službi pridobil težo, izpadati so mu začeli lasje. Po vseh grozotah, ki jih dnevno vidi, pa pogosto izgubi upanje oziroma ne najde smisla.
Težave moderatorjev niso novost. Tako je dokumentarec Čistilci (The Cleaners, 2018), ki smo ga lahko lani videli tudi pri nas na Festivalu dokumentarnega filma, razkril dogajanje na Filipinih, kjer v stolpnicah Manile po vzoru klicnih centrov množice ljudi skrbijo za čist splet, pa čeprav pogosto ne razumejo jezika in ne poznajo tematike ter se ne zavedajo povsem vpliva tega dela. O psihičnih težavah moderatorjev in o posttravmatski stresni motnji (PTSD) se je govorilo že leta 2017, ko sta zaposlena v Microsoftu vložila tožbo proti podjetju po tem, ko sta se zaradi gledanja nasilnih vsebin začela soočati s psihičnimi težavami. Žal pa o nadaljnjem razvoju te tožbe, razen osnovne novice, ni ne duha ne sluha. Zdaj se s podobno tožbo sooča tudi Facebook, ki mu moderatorji prav tako očitajo, da so zaradi vsakodnevne izpostavljenosti nasilnim in drugim neprimernim mučnim vsebinam zboleli za PTSD in se soočali z drugimi psihičnimi težavami.
Napovednik filma Čistilci. Vir: TIFF, posnetek zaslona
Novinar Casey Newton je lani za The Verge raziskoval delo moderatorjev Facebooka in se osredotočil na njihove podizvajalce podjetje Cognizant v Phoenixu in Tampi. Moderatorji so mu zaupali, da zaradi nasilnih in drugače mučnih vsebin, ki jih vsakodnevno gledajo in ki vključujejo tudi obglavljanja, umore, zlorabo otrok, trpinčenje živali, doživljajo hude težave. Nekateri trpijo za PTSD, ogromno pritožb je letelo tudi na delovne pogoje, nekateri so prevzeli zelo obskurne poglede na svet. Moderatorji gledajo video za videom, ki so seveda pristali na njihovem seznamu, ker najverjetneje niso primerni za splet. Chloe, ena od moderatork, ki je delala v podjetju Cognizant za Facebook, je za The Verge povedala, da so se ob streljanju v Parklandu najprej vsi zaposleni zgražali, a so po množici ogledanih video vsebin in teorij zarote nekateri začeli verjeti, da se dogodek sploh ni zgodil. Zadnja leta se veliko govori o radikalizaciji, saj, na primer, Youtubov algoritem poskrbi, da spoznamo cel spekter tematike, ki nas zanima oziroma nas vleče vedno globlje v skrajne poglede na temo, da le dlje ostanemo na njihovi platformi. Kakšen je vpliv dolgotrajnega spremljanja videov teorij zarote na moderatorje, ki se ob tem ne zavedajo posledic, pa pravzaprav ne vemo.
Razkritje in pritiski javnosti so pripeljali do tega, da je podjetje Cognizant lani oznanilo, da se z moderiranjem na tak način sploh ne bo več ukvarjalo, in napovedalo zaprtje podružnic, vključno z obema, o katerih so pisali v časniku The Verge. S tem so dali jasno vedeti, da ne vidijo možnosti za izboljšanje razmer v tej panogi. Konkurenčno podjetje Accenture je kot posledico dogajanja v 2019 v začetku tega leta zaposlenim dalo v podpis izjavo, da se zavedajo nevarnosti dela, ki da lahko povzroča tudi PTSD, in tako priznalo posledice tovrstnega dela, a se hkrati poskušalo izogniti odgovornosti. Stvari pa se premikajo tudi zaradi tožb, saj so moderatorji lani v Kaliforniji in na Irskem vložili tožbe proti svojim delodajalcem in tudi Facebooku, za katerega so posredno delali. Nevidna delovna sila je tako končno stopila iz teme klicnih centrov.
Nevidna delovna sila
Chris Gray, bivši moderator in eden od tožnikov Facebooka ter njihovega podizvajalca na Irskem, podjetja CPL, je decembra za časopis The Guardian nanizal glavne značilnosti moderatorja. Ta slabo spi, je razdražljiv, se ne more osredotočiti in ima težave v družini. Po njegovem mnenju se moderatorji trenutno zelo daleč od idealnega skrbnika spleta, saj morajo sprejemati pomembne odločitve, ob tem pa so slabo plačani in pod nenehnim pritiskom, ker si ne morejo odpočiti od travmatičnih vsebin, ki jih gledajo, in jih ves čas skrbi, ali so se pravilno odločili.
Moderatorji Facebooka pregledajo in odstranjujejo vsebine, ki jih za neprimerne označijo milijarde uporabnikov po svetu ali Facebookovi algoritmi. Kot moderator je Chris Gray od delodajalca poleg načrta, koliko vsebin mora obdelati in iz katerih skupin so, dobil tudi približen čas, ki ga lahko nameni določeni vsebini. Čas je odvisen od vrste vsebin, a kot je razložil, je večinoma pod minuto. Moderatorji Facebooka imajo na voljo knjigo pravil, ki se ves čas osvežuje, da se prilagaja dejanskim razmeram. Če je sprejeta določitev o odstranitvi/ohranitvi vsebine napačna, vpliva to na njihovo oceno, kazen dobijo tudi, če so vsebino odstranili, a so navedli napačen vzrok za odstranitev. Njihove odločitve namreč pregleda druga ekipa, ki je sestavljena iz moderatorjev z visokimi ocenami. Ocena kakovosti mora po Facebookovih zahtevah dosegati 98 odstotkov, kar pomeni, da moderatorji lahko naredijo od štiri do pet napak na mesec. Na računalniku imajo nameščeno programsko opremo, ki natančno spremlja njihovo delo in odhode od računalnika. Delavci v Cognizantu naj bi po poročanju časnika The Verge imeli dva 15-minutna odmora, 30 minut za kosilo in devet minut časa za »dobro počutje«, ki jih lahko izkoristijo, kadar ne zmorejo več gledati mučnih vsebin. A ko je gneča, morajo delati tudi med odmori. Pod pritiskom pa je tudi Facebook, predvsem po ruskem vmešavanju v ameriške volitve leta 2016, a je po poročanju časnika The Verge od leta 2016 razširil tudi delovno silo, ki deluje na področju varnosti, in sicer na kar 30.000, od tega je polovica moderatorjev, ogromno pa jih je podizvajalcev. Nova delovna mesta za moderatorje so odprli tudi v ZDA, s katerimi so želeli izboljšati natančnost odstranjevanja vsebin, saj naj bi bolje poznali ameriško kulturo.
Do leta 2017 je bila ta delovna sila še bolj skrita, saj so na primer na Youtubu šele po pritiskih oglaševalcev zaradi neprimernih vsebin zaposlili dodatne moderatorje oziroma so jih podjetja, s katerimi sodeluje Google. A zaposlili so poceni delovno silo, saj moderatorji v ZDA namreč dobijo le malenkost več kot minimalno plačo. Po poročanju časnika The Verge gre pri zaposlitvah za hudo izkoriščanje, saj, na primer, podjetje Accenture, Googlov podizvajalec, ki v Teksasu skrbi za moderiranje, večinoma dela z vsebinami, ki so označene za nasilni ekstremizem (violent extremism). Zaposlene – večinoma gre za migrante z Bližnjega vzhoda – so najeli zaradi poznavanja jezika, na dan pa pogledajo okrog 120 videov oziroma pet ur mučnih vsebin. Ti ljudje pogosto niti nimajo državljanstva, v strahu pred izgonom, sploh v času Trumpovega predsedovanja, pa si ne upajo spregovoriti o svojih težavah. V teoriji imajo dve uri delovnega dne na voljo za sprostitev (obisk svetovalca, sprehod, video igre s sodelavci), vendar jim ju le redko uspe izkoristiti.
Ti nizko plačani, slabo cenjeni moderatorji v mizernih delovnih pogojih in posledicah, ki jih prinaša delo, zagotavljajo obstoj storitev, saj nekatere države z zakoni določajo, da morajo biti določene vsebine, na primer take s terorističnimi sporočili, odstranjene v 24 urah. Če podjetje tega ne bi moglo omogočati, države preprosto ne bi dovolile Facebooka ali Youtuba. Po drugi strani pa vsakodnevno odločajo o svobodi govora na spletu, a to naj bo tema za kakšen drug članek. Facebook lahko skladnost svoje storitve z zakoni zagotavlja le z najnižje plačanimi delavci po vsem svetu, po možnosti takšnimi, za katere so odgovorni podizvajalci, pri katerih le občasno preverjajo skladnost z lastnimi smernicami. The Verge je decembra 2019 poročal, da pri Googlu trenutno zunanji sodelavci predstavljajo 54 odstotkov delovne sile, a podjetje ni komentiralo, koliko te delovne sile je v ZDA in koliko zunaj, prav tako jim niso dovolili obiska podjetij, kjer delajo moderatorji.
Sodeč po pogovorih z moderatorji, ki delajo v Teksasu v podjetju Accenture za Google, vsi upajo, da bodo nekoč dobili službo pri Googlu, kjer menijo, da jim bo tako lažje. A to je le prazno upanje, saj, kot so odkrili v reviji The Verge, ni pri Googlovih moderatorjih nič manj primerov psihičnih težav, le zaposlitveni pogoji so nekoliko boljši. O tem je spregovorila ena od bivših zaposlenih, ki so ji diagnosticirali posttravmatsko stresno motnjo.
Posttravmatska stresna motnja (PTSD) in druge psihične težave
Ko je Casey Newton za The Verge razkrival dogajanje v centrih za moderatorje, je v pogovoru za NPR dejal, da so mu mnogi povedali, da jih stvari, ki so jih videli, preganjajo še mesece ali leta po tem, ko so nehali delati. Druga zadeva je, da so ljudje, ki so videli toliko teorij zarote in obrobnih idej, začeli vanje verjeti. Vsebina, ki jo gledajo čez dan, vpliva na njihov pogled na svet. Moderatorje seveda urijo, da prepoznajo, kdaj naj nekaj ostane na spletu in kaj naj gre dol, a se ne zavedajo, koliko takšnih teorij bodo videli in kaj se zgodi, ko si temu izpostavljen ves dan.
A ne glede na to, kje so zaposleni ljudje, ki spremljajo tovrstne vsebine, dnevna izpostavljenost takšnim vsebinam povzroča težave vsem, pa čeprav so zaposleni pri Googlu in imajo na voljo vse prednosti dela tam in seveda veliko višjo plačo kot moderatorji pri podizvajalcih. Problem ni (le) v delovnih pogojih, ampak v dejanskem delu. Daisy Soderberg Rivkin je za The Verge spregovorila o svoji izkušnji dela pri Googlu in posttravmatski stresni motnji, ki so ji jo diagnosticirali po enem letu dela. Načelno pri Googlu zaposleni moderatorji skrbijo predvsem za to, da se odstrani vsebina, ki jo na pravni podlagi zahtevajo državne ustanove. Načrta, kako naj se zaposleni spopadajo s tovrstnimi problemi, ni bilo, seveda pa je kot Googlova zaposlena imela dostop do pomoči.
Daisy Soderberg Rivkin je za The Verge spregovorila o svoji izkušnji dela za Google in posttravmatski stresni motnji. Vir: The Verge, posnetek zaslona
Navajeni smo, da o posttravmatski stresni motnji slišimo v povezavi z vojaškimi veterani, a jo pravzaprav povzroča veliko več vzrokov, kot le vojne razmere: zasledimo jo pri zdravnikih, policistih, reševalcih, žrtvah nasilja, itd. PTSD se lahko pojavi tudi, če smo vpleteni v grozljiv dogodek ali smo mu priča, a to ne pomeni, da bomo vsi razvili to motnjo, saj je tudi v vojnih razmerah ne razvijejo vsi. Obilo vizualnega materiala z nasiljem pogledajo tudi nekateri novinarji in sodelavci človekoljubnih organizacij, a imajo napotke, kako ravnati ob ogledih izredno nazornega nasilja, da v kar največji meri zmanjšajo negativne učinke.
Tudi tehnološka podjetja nudijo strokovno pomoč, čeprav pešajo pri nudenju napotkov pri spopadanju s tovrstnimi težavami. Daisy Soderberg Rivkin je tako ob pojavu težav najprej obiskala terapevta, ki je na voljo zaposlenim v Googlu, in ta ji je svetoval obisk psihologa, kjer so ji diagnosticirali PTSD. Doživljala je napade panike, imela težave s spanjem in čutila nenehno utrujenost. Ker je bila redno zaposlena, si je dejansko lahko privoščila zdravljenje, saj je v času bolniške dobivala plačo. Daisy Soderberg Rivkin si je ob zaposlitvi svoje delo predstavljala drugače, prav tako ni dobila dovolj informacij o učinkih. Sprva so ji zagotovili, da naj bi z najbolj nasilnimi in mučnimi vsebinami delala le občasno, a je bila nato zaradi pomanjkanja zaposlenih tem vsebinam izpostavljena ves čas. Najbolj so jo pretresli posnetki spolne zlorabe otrok in po določenem času ni več zdržala v istem prostoru z otroki. Šele ko so se težave namnožile in je več zaposlenih trpelo za PTSD, so se zadeve pri Googlu nekoliko premaknile.
Izvršna direktorica Youtuba Susan Wojcicki je že 2018 obljubila, da bodo zmanjšali število ur, ki jih moderatorji preživijo ob gledanju najbolj mučnih vsebin, a žal ni tako, prav tako se tehnološka podjetja ne posvečajo raziskavam o številu ur, ki jih moderatorji lahko preživijo ob gledanju teh vsebin, ne da bi trpeli zaradi škodljivih posledic. Po poročanju časnika The Verge pa pri Googlu raziskujejo, kakšen vpliv ima gledanje teh vsebin na moderatorje, in preizkušajo različne pristope. Tako so ugotovili, da so se moderatorji, ki so sodelovali v raziskavi, bolje počutili, če so gledali črno-bele posnetke namesto barvnih. Raziskavo so sicer izvedli na majhnem vzorcu in v kratkem časovnem obdobju. Napovedali so še druge raziskave oziroma druge spremembe pri vsebinah, ki jih gledajo moderatorji, kot recimo, kaj se zgodi, če na posnetkih barvo krvi spremenijo v modro. Facebook je že implementiral ogled črno-belih posnetkov, bolj selektivno možnost zameglitve obrazov ter možnost izklopa zvoka pri video vsebinah. Vse te spremembe so vidne le moderatorjem, v primeru objave pa je posnetek v originalni različici.
Vstaja nevidne vojske
Po poročanju portala Vice Sean Burke in Chris Gray skupaj z drugimi bivšimi zaposlenimi tožita podjetje CPL, ki dela za Facebook, in tudi Facebook zaradi psihičnih težav, slabih delovnih razmer in pomanjkanja treninga zaposlenih, ki vsak dan gledajo najbolj grozljive vsebine na spletu. Facebook tožijo tudi v Kaliforniji, a naj bi po poročanju različnih medijev tam imeli manj možnosti za uspeh. Na Irskem je med tožniki tudi Facebookov zaposleni. Ta je delal le pri vsebinah, ki so jih zaposleni v CPL poslali v presojo Facebooku. Torej sploh ni videl najhujših stvari, ki so jih zunanji moderatorji že pred tem izločili, ampak je prav tako dobil diagnozo PTSD.
Diane Trenor, odvetnica, ki vodi tožbo na Irskem, je za Vice povedala, da se mnogi bojijo govoriti o delu, saj so podpisali pogodbe o nerazkrivanju, ki jim to prepovedujejo, in so v strahu, da jih v tehnološki industriji ne bodo hoteli več zaposliti. S tožbo ne iščejo le finančne kompenzacije, ampak želijo, da se Facebook sooči s slabimi pogoji dela in da v prihodnje bolje pripravi svoje zaposlene na to delo. Med drugim naj zagotovi svetovalce in zdravstvene delavce v času službe in tudi po tem, ko prenehajo delati. Cori Crider, direktorica družbe Foxglove, ki svetuje pri tožbi, je za Vice povedala, da je v EU tisoče moderatorjev, ki delajo za Facebook v razmerah, čeprav so te nevarne za njihovo mentalno zdravje in po njihovem mnenju nezakonite. Foxglove pomaga pri preiskavi in meni, da bodo morali pri Facebooku razkriti, kakšne vsebine so moderatorji morali pogledati in koliko na dan. Čeprav se Facebook trudi, da ne bi razkril nobenih podatkov, menijo, da bodo na sodišču na Irskem te podatke morali razkriti. Facebook sicer na papirju nudi odmore, psihološko podporo, jogo in fitnes, a razmere na teh delovnih mestih niso takšne. Ker imajo pri Facebooku zelo zahtevne cilje, zaposlenim preprosto zmanjka časa za obisk psihologov in sprostitvene dejavnosti. Kot je izjavila večina zaposlenih, če ne dosegaš ciljev in si zaradi tega še v dodatnem stresu, si ne boš vzel časa za pogovor s terapevtom, ker moraš doseči normo, da lahko obdržiš službo.
Čeprav večina zamahne z roko, ko omenimo delavce, ki trpijo na Filipinih ali v ZDA, se to vse bolj tiče tudi nas, saj Accenture najema delavce tudi po Evropi, med drugim v Varšavi, Lizboni in Dublinu, in vse kaže, da bo potrebe po tovrstnem delu v bližnji prihodnosti še več. Povsem jasno je, da tovrstno delo lahko vodi k PTSD, zato potrebujemo raziskave, ki bi natančno ocenile, kaj in kako ga povzroča. Poleg tega pa seveda tudi boljšo obveščenost zaposlenih, saj nekateri pred zaposlitvijo niso imeli dovolj podatkov o naravi dela, ki ga bodo opravljali. Nekateri težave opazijo takoj, drugi šele, ko pustijo službo, zato je pomembno ljudem nuditi oporo tudi po zaključku delovnega razmerja.
Pisarna v Berlinu, kjer delajo moderatorji za Facebook. Vir: BBC News, posnetek zaslona
Casey Newton pravi, da je psihološki davek velik, moderatorji ponoči ne morejo spati, pesti jih depresija, oddaljijo se od prijateljev in družine, pogosto se vdajajo alkoholu in mamilom.
Tehnološka podjetja hvalijo delo moderatorjev in vztrajajo, da jim nudijo vse, kar je potrebno, a kakšen vpliv ima njihovo delo, je nejasno, saj podjetja skrivajo podatke. Javnost nima niti najosnovnejših podatkov, koliko je zaposlenih, koliko jih ima posledice, kje so zaposleni, kaj natančno gledajo, kako dolgo. Večina podjetij se namreč trudi izboljšati uporabniško izkušnjo, da uporabniki ob njihovih storitvah preživijo čim več časa in proizvajajo podatke, ki jih nato lahko prodajo oglaševalcem. Moderatorje, ki vse to omogočajo, pa potiskajo pod preprogo. Vsa podjetja imajo vse potrebno, da bi lahko ljudem nudila poro, ki jo potrebujejo, a je ne.
V tožbi proti Microsoftu leta 2017 so bili po poročanju časopisa The Guardian navedeni napotki, kako naj bi se ravnalo z moderatorji, ki zajemajo menjavo vsebin za pregledovanje, sestanke s strokovnjaki in poseben trening prepoznavanja travme ter tudi družinske seanse. Lani je tudi Facebook obljubil spremembe, ki naj bi se zgodile letos poleti, med drugim naj bi moderatorji dobili povišico, v prihodnje pa tudi svetovanje po zaključku delovnega razmerja. Če je bilo v kratkem času po ustanovitvi in hitri rasti Facebooka nerazumevanje nekaterih zadev še dopustno, zdaj ni več, saj je vpliv tehnoloških podjetij na svetovne dogodke izjemen. S floskulami, kot so »naši zaposleni so naša največja skrb« in »zavedamo se težave in delamo vse, kar lahko«, poskušajo obdržati altruistično podobo, a dejansko pogosto brez zavedanja o posledicah preoblikujejo celotno družbo. Njihovi moderatorji so dejansko uredniki spleta, ki resda ravnajo po navodilih podjetja, a pogosto gre za osebno presojo, ko se odločajo o svobodi govora in v mnogih primerih vplivajo na politične dogodke v državah ter bijejo boj z lažnimi novicami, za svoje delo pa prejmejo slabo plačilo in obilico stresa. Razsežnosti psihičnih težav, s katerimi se soočajo moderatorji, niso povsem jasne, vsekakor pa je jasno, da tehnološka podjetja po poteku uporabne vrednosti moderatorjev, ko zaradi psiholoških težav ne morejo več opravljati svojega dela, te preprosto potisnejo nazaj v družbo. Tehnološki velikani, kot so Facebook, Twitter, Youtube in ostali, bodo morali prevzeti odgovornost in zagotoviti spremembe. Žrtvovanje ljudi za dobrobit podjetij in dobre uporabniške izkušnje ne bi smelo biti sprejemljivo.
