Dobiček pred varnostjo
Da tehnološki velikani dobiček postavljajo pred varnost uporabnika, je znano že dolgo. Že pred leti je na to opozarjala žvižgačka Frances Haugen, ko je izpostavila delovanje podjetja Meta, ki se je zavedalo negativnega vpliva Instagrama na mladostnike, a ni ukrenilo nič. Za uporabnika nevarne pa so tudi aplikacije za zmenke, kar je potrdila raziskava, ki je nastala v sodelovanju Pulitzer Center’s AI Accountability Networka in The Markupa.
Problem aplikacij za zmenke ni nov, saj so že leta izpostavljene v povezavi s spolnimi napadi in z močno preobremenjenimi moderatorji. Ti imajo za razreševanje pritožb o napadu na voljo le nekaj minut, hkrati pa nimajo ustreznega usposabljanja. Že pred časom se je, tako kot tudi zdaj, v središču te problematike znašlo podjetje Match Goup, ki nadzoruje polovico trga spletnih zmenkov.
Za plačilo lahko uporabite plačilno kartico ali PayPal ali Google Pay:
Najprej se morate prijaviti.
V kolikor še nimate svoje prijave, se lahko registrirate.
Da tehnološki velikani dobiček postavljajo pred varnost uporabnika, je znano že dolgo. Že pred leti je na to opozarjala žvižgačka Frances Haugen, ko je izpostavila delovanje podjetja Meta, ki se je zavedalo negativnega vpliva Instagrama na mladostnike, a ni ukrenilo nič. Za uporabnika nevarne pa so tudi aplikacije za zmenke, kar je potrdila raziskava, ki je nastala v sodelovanju Pulitzer Center’s AI Accountability Networka in The Markupa.
Problem aplikacij za zmenke ni nov, saj so že leta izpostavljene v povezavi s spolnimi napadi in z močno preobremenjenimi moderatorji. Ti imajo za razreševanje pritožb o napadu na voljo le nekaj minut, hkrati pa nimajo ustreznega usposabljanja. Že pred časom se je, tako kot tudi zdaj, v središču te problematike znašlo podjetje Match Goup, ki nadzoruje polovico trga spletnih zmenkov.
Ko se po prijavi ne zgodi veliko
Match Group ima v lasti številne storitve za zmenke, med drugim Tinder, OKCupid, Plenty of Fish in Hinge. Britanski medij The Guardian se v svojem prispevku o omenjeni preiskavi v večji meri osredotoča na Hinge in izpostavlja primer ameriške uporabnice te aplikacije, ki se je leta 2023 dogovorila za zmenek z uporabnikom Stephenom Matthewsom, za katerega ni vedela, da je bil v aplikaciji zaradi posilstva že dvakrat prijavljen. Omamil jo je in napadel, a mu je pobegnila, še preden jo je posilil, kar mnogim drugim ni uspelo. Profil moškega je očitno ostal na platformi, čeprav bi v skladu z uradno politiko varnosti podjetja morala biti odstranjena vsa odkrita uporabniška imena, povezana z uporabnikom, ki je bil prijavljen zaradi posilstva.
Kako je pri nas?
Aplikacija Hinge sicer ni na voljo v Sloveniji, so pa zato druge tovrstne aplikacije, tako omenjenega podjetja kot tudi konkurentov, a statistični podatki o primerih spolnega nadlegovanja ali napadih, povezanih z aplikacijami za zmenke, pri nas niso na voljo. Iz Sektorja za odnose z javnostmi na Generalni policijski upravi so potrdili, da tudi pri nas »policija obravnava posamezne primere storitev kaznivih dejanj posilstva in spolnega nasilja, ko je žrtev storilca spoznala preko takšnih spletnih aplikacij. Storilec se po korespondenci preko teh aplikacij dogovori in nato tudi sestane z žrtvijo. V nadaljevanju nato pride do spolnega nadlegovanja ali celo izvršitve kaznivega dejanja iz področja kaznivih dejanj zoper spolno nedotakljivost.«
Razložili so še, da »policija obravnava primere izsiljevanja prek spleta in družbenih omrežij, kot so Facebook, Twitter in Instagram, ko storilci žrtve na spletnih aplikacijah med korespondenco prepričajo, da jim slednje pošljejo fotografije ali videoposnetke s seksualno vsebino. Potem storilci žrtve izsiljujejo in grozijo z objavo teh posnetkov v kolikor jim ne bodo plačale določenega zneska storilcu ali posredovale vedno nove fotografije ali zahtevali, da storijo kaj drugega. Med žrtvami so najpogosteje mladoletne osebe (tako fantje kot dekleta), nekaj žrtev pa je tudi odraslih.«
Podjetje Match Group je prvo prijavo Matthewsa prejelo tri leta pred omenjenim zmenkom, a nobena od žensk, ki so se kasneje sestale z njim, tega ni mogla izvedeti; odstranili so ga šele, ko je bil aretiran. Kako je to mogoče? V varnostnem sistemu podjetja je bil ob odstranitvi uporabnika zaradi spolnega napada ustvarjen primer s telefonsko številko in e-poštnim naslovom, ki sta bila povezana z njegovim računom. Sistem je zajel še IP-naslov, fotografijo in datum rojstva prvotnega profila in je bil zasnovan tako, da bi odstranil vsakogar, ki bi uporabil te podatke. Vendar je preiskava pokazala, da v praksi to ni delovalo, saj podjetje ni uporabljalo podatkov o IP-naslovih, fotografij in rojstnih datumov za odstranjevanje tako blokiranih uporabnikov, če so se ti pojavili v drugi aplikaciji istega podjetja. Tako je omenjena preiskava ob preizkusu aplikacij letos pokazala, da so uporabniki, ki so jih zaradi spolnega napada odstranili s Tinderja, brez težav odprli profil v drugih aplikacijah v lasti istega podjetja in pri tem celo uporabili nekatere iste osebne podatke. Posebej so izpostavili, da uporabniki sploh ne potrebujejo veliko tehničnega znanja, da zaobidejo Tinderjevo prepoved, saj navodila zlahka najdejo na forumih.
Spletni prostor seveda ni povsem brez tveganja, a podjetja za zmenke, kot je Match Group, bi morala postaviti še višje standarde in storilcem spolnih napadov onemogočiti vrnitev v njihove aplikacije.
Zakaj varnost ni na prvem mestu?
Kot je mogoče sklepati, je odgovor povsem preprost – zaradi denarja. V podjetju Match Group so zavlačevali z ukrepi, ker bi ti lahko škodili rasti podjetja in torej dobičku. Industrija spletnega iskanja partnerjev za zmenke je s pandemijo sicer utrpela udarec, kar velja tudi za Match Group, ki je kljub temu še naprej ustvarjal velik dobiček. A Bernard Kim, ki je po uspešni karieri pri razvijalcu mobilnih iger Zynga leta 2022 prevzel vodenje Match Groupa, se je osredotočil na nadaljnjo širitev, ne da mi upošteval na varnost. Izginile so tudi omembe poročila o preglednosti, ki ga je podjetje obljubljalo in s katerim bi podatki o incidentih na platformi postali javni. Tisto leto je podjetje zapustil tudi Michael Lawrie, ki je vrsto let skrbel za varnost v OKCupid, in z njim je odšla tudi večina njegove ekipe, njihovo delo pa so prepustili zunanjim pogodbenikom z malo usposabljanja in velikimi kvotami. Odpustili so tudi Tracy Breeden, ki je bila zadolžena za reševanje varnostnih težav in je pred tem to področje pomagala urediti pri Uberju. Leto kasneje je razpadlo še partnerstvo z Garbo, s podjetjem za preverjanje ozadja uporabnikov, ki so ga predstavili leto prej.
Res pa je, da tovrstna preverjanja žal ne odpravijo ključnih tveganj – z njim, denimo, ne bi odkrili zgoraj omenjenega Matthewsa. Težava je namreč, kot je za Al Jazeero razložila Jackie Cruz, sociologinja in ustanoviteljica svetovalnega podjetja Beyond Compliance, da žrtve spolnega nasilja tega pogosto ne prijavijo, ker poznajo storilce, potencialni napadalci pa zato pogosto nimajo kriminalne preteklosti, kar je veljalo tudi za Matthewsa.
Lani se je stanje še poslabšalo, saj so se bistveno znižali že tako nizki standardi na področju moderiranja, ko so drugi ponudniki spletnih storitev sledili zgledom Mete, Youtuba in Twitterja. To seveda velja tudi za Match Group, kjer so odpustili še preostale zaposlene iz osrednje ekipe za varnost, njihova delovna mesta pa so prenesli na zunanje izvajalce.
Tehnološki sektor manevrira med rastjo in zagotavljanjem varnosti, pri aplikacijah za zmenke pa dodaten pritisk ustvarja nenehni osip uporabnikov. A dobiček je na prvem mestu tudi drugod. BBC je tako nedavno izpostavil primer Tiktoka v Keniji, ki dobiček kuje tudi iz predvajanj v živo, kjer v seksualnih vsebinah nastopajo mladoletni. Moderatorji so za BBC povedali, da se podjetje zaveda problema, a da »omejevanje nagovarjanja k spolnosti ni v interesu Tiktoka – več ljudi, kot podari darila ob prenosu v živo … [pomeni] več prihodkov za Tiktok«. Kenijska vlada se je leta 2023 sestala z izvršnim direktorjem Tiktoka, da bi razrešila ta problem, a se do zdaj ni zgodilo nič. Tudi v primeru Tiktoka je dodaten problem moderiranje, ki je prepuščeno umetni inteligenci, ta pa ne razume dovolj dobro lokalnega slenga, s katerim storilci uspešno prelisičijo varnostne sisteme in se izogibajo prepovedim predvajanja.
Moderiranje ima nizke standarde, družbeno okolje pa do tehnoloških podjetij preveč popustljivo. Cruz je za Al Jazeero poudarila, da sta za varnost nedvomno odgovorni aplikacija, ki ponuja storitev, in širši družbi, ki normalizira nekatere vidike spolnega nadlegovanja. Dodala je še, da bi morali imeti ljudje možnost uporabe tovrstnih aplikacij za zmenke, ne da bi bili izpostavljeni nevarnosti spolnega nadlegovanja.
Normalizacija vedenja in transparentnost
Nasilje nad ženskami je v zadnjih letih v porastu, na spletu pa še posebej – tudi zato ker tehnološki velikani ne naredijo dovolj za njegovo preprečevanje, odgovornost pa prelagajo na uporabnike. Problematični sta že splošna sprejemljivost in normalizacija pošiljanja nezaželenih fotografij genitalij; marsikdo to sprejme kot šalo, ampak dejstvo je, da tudi to pomeni spolno nasilje. Čeprav je ideja, da se v teh aplikacijah to dogaja, normalizirana, ne bi smelo biti tako. Ljudje, ki to počnejo, lahko to delajo brez posledic, ne da bi jih prijavili policiji. Če na zadevo pogledamo malo drugače, je jasno, da bi jih aplikacije morale odstraniti, tako kot bi nas ob tovrstnem početju odstranili iz restavracije. Verjetno se strinjamo, da ob prvem stiku in pohvali videza ali osebnostne zanimivosti, ne pričakujemo, da nam bo sogovornik takoj pokazal genitalije. A v aplikacijah za zmenke se pogosto zgodi točno to.
Tako imajo ženske občutek, da so same odgovorne za svojo varnost na spletu, čeprav so tehnološka podjetja tista, ki bi morala imeti bolje zastavljena pravila in jih tudi spoštovati. Odzvati bi se morala na sovraštvo, zlorabo in grožnje dekletom in ženskam ter delovati bolj transparentno. Pomagalo bi že, če bi prenehali kovati dobičke iz ekstremne mizoginije, medtem ko bi države in zakonodajne oblasti morale ustvariti regulativna okolja, ki bi odgovornost prelagala na platforme. V času direktorja Kima so izginile vse omembe načrtovanega zagotavljanja transparentnosti, a vseeno se Match Group ne more izogniti evropski zakonodaji, ki zahteva, da tehnološka podjetja razkrijejo poročila o nekonsenzualnem vedenju in drugih problemih. Podobno transparentnost zahtevata tudi Indija in Avstralija.
Kot pravi Adelin Cai, ustanoviteljica The Trust and Safety Professional Association, ki stremi k izboljšanju moderiranja na spletu, lahko podjetja naredijo dve temeljni stvari: prva je spremljanje vedenja uporabnikov s procesom pritožb in z odstranjevanje posameznikov, ki kršijo pravila. Žal je po poročanju Pro Publice imel eden od internih priročnikov podjetja Match Group 2020 le okoli 50 strani, od katerih sta bili le dve namenjeni spolnemu nadlegovanju, tam pa je bilo zapisano, naj žrtev ne napotijo na policijo, izkažejo pa naj jim sočutje. Podjetje je leta 2020 tudi obljubilo, da bo objavilo poročilo o preglednosti. To naj bi razkrilo podatke o škodi, ki se dogaja na njihovih platformah in zunaj njih. Če bi bili uporabniki seznanjeni z obsegom posilstev in napadov v aplikacijah, bi lahko natančno ocenili svoje tveganje. Do februarja 2025 takšno poročilo še ni bilo objavljeno.
Da bi lahko obrnili trend, je potrebna transparentnost, ki bi v duhu konkurence uporabnikom ponudila možnost izbrati varnejše omrežje in omogočila javnosti, da bi lahko zahtevala odgovornost od podjetij. Seveda pa je to mogoče samo skozi strogo regulacijo, saj so tehnološka podjetja že ničkolikokrat dokazala, da iz lastne dobrote ne bodo naredila nič, kaj šele zato, ker menijo, da ženske (ali katerakoli druga ranljiva skupina) zaslužijo zaščito. Zgoraj omenjeni Matthews bo sicer ostal v zaporu, a ne po zaslugi podjetja, saj odgovorni v podjetju Match Group za zdaj ne nosijo nobenih posledic. A to moramo spremeniti.
