Resnica za prgišče dolarjev

Ko je urednik medija, ki ga ravnokar prebirate, hotel na Facebook omrežju objaviti kritičen članek o oglaševalskih omrežjih družabnega spleta, mu Facebook tega ni dovolil. »Odstranili smo tvojo objavo!« mu je javil vmesnik. »Videti je, da si poskušal/-a dobiti všečke, sledilce, delitve ali oglede videov na nepošten način!«

Mark se je poklonil novi ameriški administraciji.

Isto se je zgodilo filozofu in družbenemu kritiku Borisu Vezjaku, ki je hotel objaviti kritičen članek o aktualni vladi. Podobno se je zgodilo več uporabnikom tega omrežja, ki so komentirali aktualne dogodke, objavljali posnetke kulturnih prireditev in politikom, ki so poskušali na več različnih načinov opozoriti na begunsko krizo, izzive pri cepljenju proti koronavirusu in druge pereče družbene teme.

Razburjeni uporabniki so po logiki neresničnih teorij zarot po krivem obtožili poklicne novinarje in vlogo cenzorjev brez kakršnikoli dokazov pripisali kar zavodu Oštro, ki od leta 2022 sodeluje v Metinem programu preverjanja dejstev s svojim projektom Razkrinkavanja. Projekt Razkrinkavanja je dejansko namenjen opozarjanju na bolezni sodobnega medijskega prostora, s svojim delom pa poskušajo prispevati tudi k dvigu kakovosti medijskih vsebin. Zakaj jih torej uporabniki po krivem obtožujejo cenzuriranja spleta?

Kdo briše vsebine?

Žana Erznožnik, vodja projekta Razkrinkavanje pri zavodu Oštro, pojasnjuje, da projekt preverjanja dejstev ni namenjen cenzuriranju vsebin oziroma brisanju profilov. »Mi nimamo dostopa do internega sistema Facebook omrežja, da bi lahko vplivali na vsebine, ki jih objavljajo uporabniki,« najprej kategorično zanika teorije zarote o spletnih manipulacijah in pojasni, da »je bila naloga neodvisnih organizacij predvsem preverjanje viralnih objav ter opozarjanje na zavajanja, laži oziroma faktografske napake v njih«.

Vključevanje teh strokovno pripravljenih opozoril k samim objavam ali morebitno moderiranje na podlagi ugotovitev prispevkov je bilo v rokah Metinih administratorjev ter algoritmov in ne organizacij za preverjanje dejstev. »V javnosti se je vzpostavila teorija zarote o naši vlogi, postali smo dežurni krivec za vsak uporabniški problem na Facebooku,« opozarja.

Kdo torej briše vsebine in jezi uporabnike? Malo znano dejstvo je, da se Facebook že dalj časa pri urednikovanju in odstranjevanju vsebin zanaša na ločene nizkoplačane 'čistilce spleta', ki skrbijo za odstranjevanje (otroške) pornografije, posnetkov (spolnega) nasilja in drugih prepovedanih vsebin.

V času koronavirusa je del teh aktivnosti podjetje Meta zaradi težav na terenu preložilo na algoritme, ki so začeli opravljati človeško delo. Navkljub internim opozorilom o nenatančnosti algoritemskega prepoznavanja spornih vsebin, napačnemu prepoznavanju relevantnih vsebin za nezaželene in netransparentnemu postopku ponastavljanja napak se Meta uredniškim algoritmom ne bo odpovedala. V uvodu omenjeno odstranjevanje vsebin, ki jih spremlja obvestilo o 'nepoštenem načinu', torej ni rezultat dela preverjanja dejstev, temveč slabo napisanega algoritma za odstranjevanje prepovedanih vsebin.

Trump in posredniki vsebin niso bili vedno na isti strani.

Erznožnikova opozarja še na pritiske, ki so jih s kolegicami in kolegi v uredništvu doživljali zaradi teoretikov zarot. »Žal so se na nas večkrat obračali ljudje, včasih vljudno, prepogosto pa sovražno, ki jim je Meta izbrisala objave ali profile, češ naj jim ga nemudoma damo nazaj in prenehamo s cenzuro,« je javno opozorila. »V enem primeru je več članov ekipe prejelo e-pošto, v kateri nam je skupina ljudi dala osem dni, da 'decenzuriramo njihovo stran in objave', sicer nas bodo obiskali na domu in nam ne bo več lepo. Pozive k nasilju nad našo ekipo, skupaj z informacijo, da zbirajo podatke o naših domovanjih, so objavili tudi na Facebooku. Tovrstne grožnje vzbujajo strah in anksioznost, škodijo pa novinarskemu poklicu v celoti, saj tudi zaradi njih mladi in nadarjeni novinarji zapuščajo poklic,« je zaključila.

Kako deluje preverjanje dejstev?

Po podatkih omrežja Facebook se postopek preverjanja dejstev začne s prijavo uporabnika oziroma pomočjo sistema umetne inteligence, ki zazna problematično vsebino na omrežju.

V drugem koraku vsebino pregledajo partnerji mreže preverjanja dejstev in ob pomoči novinarskega dela ugotavljajo, kaj je res in kaj ne. Preverjanje zaključijo z oznako problematičnosti, ki je imela vpliv na širjenje vsebine po omrežju. Ko uporabnik poskuša deliti sporno vsebino, ga Facebook obvesti o problematičnosti, obvestilo pa prejmejo tudi uporabniki, ki so delili vsebino, za katero se je kasneje izkazalo, da je neresnična oziroma potvorjena.

Sistem označevanja in preverjanja vsebin se je med pandemijo koronavirusa vedno bolj začel zanašati na sisteme umetne inteligence predvsem zaradi omejitev, ki jih je v naša življenja pripeljala pandemija in odzivi nanjo. Hkrati so se za uporabo umetne inteligence (oz. bolje rečeno strojnega učenja) upravljalci omrežja odločili zaradi vedno večje količine dezinformacij in spornih vsebin, ki so nastajale prav zaradi pandemije.

V praksi se je izkazalo, da umetna inteligenca ni bila kos svoji nalogi, saj so kritiki opozarjali na več različnih napak, od nekonsistentnega označevanja neresničnih oziroma spornih vsebin do napačnega označevanja resničnih vsebin.

Algoritmi ljubijo jezo

Eden glavnih merilcev uspešnosti skoraj vseh spletnih storitev je angažiranost (t. i. engagement) uporabnikov. Ta poleg števila uporabnikov, ki neko storitev uporabljajo na dnevni in mesečni ravni, predstavlja troedini sveti gral digitalne ekonomije.

Projekt Razkrinkavanja je bil sam žrtev neresnic in teorij zarot o svojem delu.

Angažirani uporabniki so tisti, ki na nekem družabnem omrežju prebirajo vsebine, gledajo videoposnetke, komentirajo in delijo vsebine oziroma se na drugačen način ukvarjajo z njimi. Logično je, da so za angažma uporabnikov najboljše vsebine, ki razburjajo oziroma drugače nagovarjajo naša pozitivna in predvsem negativna čustva.

Do te ugotovitve so raziskovalci prišli konec leta 2021, ko je Washington Post razkril interne dokumente podjetja Meta iz leta 2019, ki so natančno popisovali mehanizme algoritemske distribucije novic. Po internih podatkih so bile 'jezne' reakcije na objave nagrajene s petkratnikom drugih reakcij in so tako imele prevladujoči vpliv na širino algoritemske distribucije vsebin po omrežju.

Poleg nagrajevanja jeznih uporabnikov so v istih dokumentih raziskovalci ugotovili, da večina vsebin, nad katerimi se uporabniki jezijo, vsebuje dezinformacije oziroma zavajajoče vsebine. Posledica takega algoritemskega nagrajevanja 'jeznih' vsebin je torej na dlani: več jeznih vsebin z dezinformacijami, več angažiranih uporabnikov. Več angažiranih uporabnikov, boljši poslovni izidi.

Zadeva je bila tako problematična, da so jo opazili celo Facebookovi inženirji, ki so poskušali 'ročno' zmanjšati obteženost vpliva 'jeznih' objav na distribucijski algoritem in ugotovili, da se algoritem na spremembe ne odziva. Leta 2020 so zmanjšali vpliv reakcij uporabnikov na distribucijski algoritem za 150 odstotkov, hkrati pa popolnoma izničili vrednost 'jezne' reakcije na objavo.

Neresnica: druga plat resnice

Dezinformacije so postale globalen politični problem relativno pozno – v ZDA so namreč šele po prvi izvolitvi Trumpa leta 2016 odločevalci in splošna javnost začeli razmišljati o spletno distribuiranih lažeh in polresnicah ter zavajanjih in problemu, ki ga to širjenje predstavlja za politični diskurz v državi.

Relativno pozno zato, ker so po svetu že pred tem različne države opozarjale na vlogo dezinformacij in propagande pri odločevalskih oziroma drugih družbenih procesih. Brexit, prva ruska invazija na Ukrajino leta 2014, splošne volitve v Indiji istega leta ... vse to so bili pomembni družbenopolitični procesi, kjer so dezinformacije in digitalni distributerji odigrali ključno vlogo pri zavajanju državljank in državljanov.

Algoritemsko odstranjevanje vsebin ni bilo povezano s preverjanjem dejstev.

Začetni koraki boja proti dezinformacijam so bili plahi in predvsem izredno politično korektni. Čeprav so vsi globalni primeri dezinformacijskih kampanj dokazovali veliko povezavo med strankarsko oziroma državno politiko in vsebino kampanj, so se prvi poskusi boja proti dezinformacijam osredotočali predvsem na izobraževanje uporabnikov ter njim prepuščali presojanje podatkovnih smeti na družabnih omrežjih.

Pri tem so bili v izraziti prednosti bolj izobraženi uporabniki oziroma družbe, kjer so imeli dobro razvito medijsko krajino oziroma kjer so lahko do dejansko preverjenih informacij prišli na več različnih načinov in kjer so imeli prijemi preverjanja več virov in pozorno branje dejanski učinek, čeprav so tudi v teh družbah predvsem desni politiki resnico spremenili v primat levice ter vsakršen poskus omejevanja dezinformacij označili za kršenje svobode govora.

A če smo se še leta 2016 pogovarjali o vlogi natančnega branja in pozornega spremljanja ter primerjanja različnih virov informacij, je samo štiri leta kasneje pandemija koronavirusa pokazala vso moč dezinformacijskega stroja, ki ga hrani predvsem algoritemsko urednikovanje vsebin.

Pa ima to sploh kak učinek?

Akademska stroka sicer še nima dokončnega odgovora na vprašanje, kako učinkovito je preverjanje dejstev in kakšen vpliv ima na ciljno publiko, ki konzumira vsebine prek družabnih omrežji. Analize na eni strani sicer podčrtujejo uporabnost preverjanja dejstev pri posamezni skupini uporabnikov, medtem ko druge raziskave opozarjajo na neučinkovitost preverjanja dejstev zaradi narave hitrega nastajanja in spreminjanja dezinformacij.

Študije hkrati poudarjajo preveliko zanašanje političnih odločevalcev na preverjanje dejstev, ki naj bi predstavljalo ultimativno rešitev problema dezinformacij, čeprav za to ni nikakršnih dokazov. To se nato pozna pri sprejemanju političnih odločitev oziroma kompromisov s podatkovno industrijo, ki v preverjanju dejstev za zdaj še vedno vidi zelo učinkovit mehanizem za odganjanje regulacije.

Težave pri preverjanju dejstev sproža tudi odpor političnih in drugih interesnih skupin, ki se osredotočajo predvsem na spodkopavanje ugleda organizacij, sodelujočih pri preverjanju dejstev. S tem spodkopavanjem ugleda interesne skupine študije preverjanja dejstev spreminjajo v 'še eno mnenje' in poglabljajo razkorak v družbi.

Zgornji trendi veljajo tako za preverjanje dejstev, ki ga izvajajo strokovne organizacije, kot za preverjanje dejstev s t. i. skupnostnimi opombami (community notes, op. p.), kjer pripadniki nekega družabnega omrežja sami popravljajo vsebine, ki se pojavijo na njem. Edina resna razlika med strokovnim preverjanjem dejstev in skupnostnimi opombami v praksi tako ostaja brezplačnost zadnjih, saj lastnik omrežja svojih uporabnikov običajno ne plačuje za opravljeno delo.

Ironično – ko je leta 2019 podjetje Meta prekinilo sodelovanje s preiskovalno novinarsko organizacijo Snopes in ko je Mark Zuckerberg v javnosti začel prvič razmišljati o sistemu skupnostnih opomb, so kritiki opozorili na ključne razlike med obema modeloma, kar se tiče strokovnosti posameznega pristopa, češ da so skupnostne opombe sicer dobre za dvig angažiranosti uporabnikov, vendar imajo zaradi nestrokovnega dela veliko manjšo vrednost.

Preverjanje dejstev: politično všečni placebo

Program preverjanja dejstev je podjetje Meta začelo leta 2016, ko so se pojavile govorice o ruski manipulaciji spletnih platform in družabnih omrežij. Te govorice so privedle do dokazanega škandala podjetja Cambridge Analytica, ki je zlorabljalo podatke uporabnikov tega omrežja za podporo prvemu mandatu predsednika Združenih držav Amerike, Donaldu J. Trumpu.

Zuckerberg je zaradi politične grožnje po zakonodajnih rešitvah in regulaciji družabnega spleta posegel po samoregulacijskem orodju za zaznavanje in odstranjevanje spornih vsebin, s čimer je želel pomiriti politične kritike doma in po svetu.

Meta se je zanašala predvsem na algoritemsko označevanje in odstranjevanje spornih vsebin ter na sodelovanje z neodvisnimi novinarskimi organizacijami in agencijami, kot sta Associated Press in Snopes. Amnesty International je že leta 2017 opozoril, da je bil program namenjen predvsem političnemu ugajanju in ne dejanskemu reševanju problema spletnih dezinformacij. Pomanjkljivo delovanje Meta algoritma za zaznavanje spornih vsebin so neposredno povezali z genocidom plemena Rohinga v Mjanmaru.

Leta 2021 so po napadu desničarskih ekstremistov na zgradbo Kapitola v Washingtonu pri organizaciji Avaaz opozorili, da je Metin program preverjanja dejstev 'spregledal' veliko laži in propagande med predvolilno kampanjo leto poprej, kar je bilo predvsem posledica napak v algoritmu. Program preverjanja dejstev se je izkazal za problematičnega tudi med pandemijo koronavirusa, ko je bil Facebook eden glavnih virov neresnic o izvoru in nevarnosti koronavirusa.

Neodvisne organizacije za preverjanje dejstev so se vedno glasneje pritoževale, da njihovo delo naleti na gluha ušesa pri lastnikih omrežja, ki spornih vsebin ne odstranjujejo. Samoregulacijska poteza se je tako izkazala za neučinkovit placebo, ki ni rešil težave dezinformacij in propagande, hkrati pa je izgubljal politično moč pri zakonodajalcih, ki so postajali vedno bolj nezadovoljni.

Preverjanje dejstev: poceni delovna sila

Ob začetku programa preverjanja dejstev na omrežju Facebook so nekatere organizacije objavile višino plačila, ki so ga prejele za svoje delo. Tako je ena od večjih organizacij za preverjanje dejstev, Snopes, leta 2017 objavila letne zneske plačila za opravljeno delo, ki so se vrteli okrog sto tisoč evrov oziroma drugače, dobrih osem tisoč evrov na mesec, celoten program preverjanja dejstev pa je vključeval 51 organizacij iz vsega sveta.

Podjetja družabnega spleta se po vsem svetu soočajo z regulatornimi izzivi.

Ameriški kritiki so takrat opozorili, da je bil letni promet tega giganta skoraj 70 milijard evrov oziroma da je Facebook z vsakim uporabnikom na leto zaslužil slabih 30 evrov. Preračunano to pomeni, da je Facebook letni strošek svojega celotnega programa preverjanja dejstev 'plačal' z oglaševalskim zaslužkom, ki sta mu ga prinesla dva milijona uporabnikov v treh mesecih.

Ko je Snopes leta 2019 preklical sodelovanje v programu preverjanja dejstev, je v svoji kritiki program označil za neučinkovitega in izčrpavajočega, posamezni zaposleni pa so v svojih kritikah program preverjanja dejstev izenačili s kupovanjem regulatorne dobre volje brez pravega učinka.

EU poseže po regulatorni gorjači

Leta 2023 so odločevalci v Evropski uniji izgubili potrpežljivost in začeli pripravljati zakonodajo, s katero so poskušali za vsebinske digitalne platforme uvesti zakonske obveze na področju odgovornosti pri omejevanju škode dezinformacij in drugih spornih vsebin ter podatkovne ekonomije.

Akta o digitalnih storitvah in trgih (DSA in DMA) ter Evropski akt o svobodi medijev so bili zakonodajne rešitve problemov, ki naj bi jih reševala prej tako opevana samoregulacija in so tako uvajale več zavezujočih varovalk za digitalne platforme.

Seveda je to za platforme pomenilo večje stroške delovanja in zmanjševanje dobička iz naslova kontekstualnega oglaševanja, saj je več študij že vrsto let opozarjalo, da so dezinformacije in čustveno nabite vsebine dva od glavnih spodbujevalcev uporabe družabnih omrežij. Zuckerberg in ostali lastniki rešitev digitalne ekonomije so bili torej postavljeni pred dejstvo: ali se podredijo evropski zakonodaji ali pa tvegajo visoke kazni za kršenje regulatornih pravil na enem od bogatejših svetovnih trgov.

Kaznovanje po prej omenjenih aktih namreč sledi logiki kaznovanja zaradi kršitev uredbe GDPR, ki pozna višino kazni, preračunano na odstotke letnega prometa – v primeru Akta o digitalnih storitvah lahko globe dosežejo šest odstotkov globalnega prometa podjetja, medtem ko kršitve Akta o trgih lahko privedejo do maksimalnih glob v višini deset odstotkov globalnega prometa. A tudi to še ni vse – oba akta poznata tudi prepoved poslovanja znotraj meja Evropske unije, ta pa za digitalne platforme predstavlja enega od ključnih trgov.

ZDA: kopica tožb posameznih držav

Meta se doma sooča s kopico tožb v posameznih zveznih državah Združenih državah Amerike, kjer jim državni organi ter posamezne skupine prizadetih državljank in državljanov očitajo manipulativne prakse zasvajajoče uporabe tega orodja in dopuščanje širjenja dezinformacij.

Hkrati Meto trenutno preiskuje tudi zvezna komisija za telekomunikacije (FTC), ki podjetju očita monopolne prakse, predvsem zaradi nakupa in združitve s podjetji Whatsapp in Instagram. Skupno število tožb v Združenih državah Amerike proti Meti pa naj bi bilo po nekaterih ocenah več kot 40.

Komisarka ameriške zvezne komisije za telekomunikacije Lina Khan, ki jo z menjavo celotne ameriške administracije sicer čaka izguba trenutnega položaja, je v enem svojih zadnjih nastopov izrazila upanje, da spletnih gigantov njen naslednik ne bo obravnaval mehkeje samo zato, ker se podjetja prilizujejo novemu predsedniku Združenih držav Amerike.

Združene države laži in sovraštva

Odnos Donalda J. Trumpa in velikanov Silicijeve doline je bil vedno izredno dualen – če so se mu klanjali, jih je koval v zvezde, če so mu s preverjanjem dejstev in z opozarjanjem na njegovo hujskaško in sovražno retoriko jemali politično sapo, jih je hotel uničiti.

Po njegovi ponovni izvolitvi na mesto predsednika Združenih držav Amerike so se začeli konkretni premiki tudi na področju digitalne ekonomije in družabnih omrežij. Pred volitvami je večina vodilnih v Silicijevi dolini podpirala resnico, politično neodvisnost in tehnološko nevtralnost ter Trumpovo protikandidatko, po njegovi zmagi pa so spremenili smer; ameriški veter vedno bolj piha v smer propagande.

Zadnji žebelj v krsto ameriške resnice in nevtralnosti je pred kratkim zabil direktor podjetja Meta Mark Zuckerberg, ki je v videoposnetku napovedal prekinitev programa preverjanja dejstev na omrežju Facebook na področju Združenih držav Amerike ter sodelovanje z ameriško administracijo pri obrambi ZDA pred tujimi vladami, ki naj bi hotele 'cenzurirati' splet.

Ukinitev programa preverjanja dejstev za zdaj velja samo v Združenih državah Amerike, ne pa tudi v drugih državah in v Evropski uniji. Kritiki to označujejo za še en znak, da gre pri potezi predvsem za kupovanje politične dobre volje ameriškega glavnega oligarha in priprave na vedno hujše trke z regulatorji po vsem svetu.

Nedvomno bo umik programa preverjanja dejstev sprožil novo serijo tožb in preiskav, saj ga trenutno kritizirajo tako ameriške potrošniške organizacije kot tudi digitalni aktivisti in novinarske organizacije, je pa trenutno težko reči, kako se bodo te potencialne tožbe odvijale, če upoštevamo prej omenjene povezave med aktualno ameriško administracijo in njenim tehnološkim sektorjem.

Zuckerberg: Preverjanje dejstev je politični problem

Generalni direktor podjetja Meta, Mark Zuckerberg, je v svoji najavi ukinitve programa preverjanja dejstev na platformah svojega podjetja poudaril, da se je za prehod s sodelovanja s poklicnimi preiskovalci dejstev na model skupnostnih opomb odločil zaradi ponovnega vzpostavljanja svobode govora.

Po njegovem mnenju se je namreč preverjanje dejstev v praksi izkazalo za neučinkovito in polno napak, iz dobronamernega opozarjanja na neresnične navedbe pa se je spremenilo v orodje cenzure. Kritiki so takoj opozorili na povezavo z besednjakom novega ameriškega predsednika, ki je del svoje politične platforme razvijal ob pomoči retorike o ugrabljeni tehnološki industriji in velikem digitalnem cenzorju, predstavniki strokovnih novinarskih organizacij, ki so sodelovali v programu preverjanja dejstev pri Meti, pa so podčrtali svojo nemoč in dodali, da je vse niti v rokah od začetka držal prav Mark Zuckerberg.

Kot že rečeno, trenutna sprememba režima ukinitve programa preverjanja dejstev za zdaj ne velja zunaj meja Združenih držav Amerike, kar v praksi pomeni, da bodo evropski uporabniki te storitve v primerjavi s svojimi ameriškimi 'soprofilaši' na boljšem.

Očitno imata industrijsko ugajanje ameriškemu političnemu vrhu in računanje na pomoč odločevalcev pri ohranjanju poslovnega modela, ki mu trenutno po vsem svetu grozijo tožbe, globe in omejitev poslovanja, prioriteto nad resnico za prgišče dolarjev.