Intervju, Meredith Whittaker, predsednica fundacije Signal

»Zasebnost je vprašanje življenja in smrti«

Aplikacija Signal letos praznuje deseti rojstni dan in Meredith Whittaker ga je praznovala na Times lestvici najvplivnejših ljudi v dobi umetne inteligence. Z eno največjih svetovnih zagovornic uporabniške zasebnosti in kritičark nadzornega kapitalizma, ki je udobno službo pri Googlu zamenjala za vodenje fundacije Signal, smo se pogovarjali o pomenu zasebnosti, tehnoloških izzivih razvoja, ki ne temelji na preprodaji podatkov, ter o lažni dilemi med zasebnostjo in varnostjo.

Začniva na začetku. Bili ste ena od glavnih organizatork upora pri Googlu, kjer ste se delavci uprli načinu, kako je to podjetje reševalo probleme spolnega nadlegovanja. Kako vidite ravnovesje med osebnimi prepričanji in prizadevanji za sistemske spremembe na nekem področju? Se lahko eno zgodi brez drugega?

To je zahtevno vprašanje in nisem prepričana, da imam enostaven odgovor, ki bi ustrezal vsem situacijam. Vsi smo samo ljudje in delujemo po lastni volji. Upor pri Googlu ni bil začetek mojega družbenega delovanja, to je bil le eden od vrhov reakcije na stanje v svetu.

O tem se je pred tem več kot desetimi leti pogovarjalo na tisoče ljudi, hkrati je bil to največji delavski upor v tehnološkem sektorju, kjer je 20 tisoč ljudi zapustilo svoja delovna mesta v znak upora proti neetičnemu delovanju podjetja Google in proti kulturi, ki je nekatere ljudi vedno postavljala nad druge in razvijala produkte, ki so pogosto povzročali resna tveganja za tiste, ki so bili zaradi te kulture in teh oblikovalskih odločitev podcenjeni.

Odhod z delovnega mesta pri Googlu je bil samo eden od načinov, s katerimi sem skozi svojo kariero poskušala biti odgovorna za spremembe, ko sem videla, da se zadeve odvijajo v napačno smer, in s katerimi sem poskušala od spodaj spremeniti nevarnosti in škode, ki jih še danes povzroča tehnološki model koncentracije moči.

Je osebna aktivacija dovolj za razreševanje izzivov na področju zasebnosti in varnosti, ki danes pestijo tehnološki sektor?

Nikakor ne. Delavsko organiziranje kot primer strukturiranega vzvoda je bilo prisotno že v 80. letih dvajsetega stoletja, pred hegemonističnim vzponom neoliberalne ideologije, takrat pa so ga podpirali in razumeli vsi.

Ljudje so prepoznali strukturni nadzor nad toksičnim kapitalizmom in vključenost delavske moči pri ciljih svojega dela. Ne vem, ali gre pri tem za neko osebno prepričanje, to bolj vidim kot vračanje k osnovam delavstva in prepoznavanju problemov v industriji, ki sprejema nekatere odločitve in postavlja prihodke ter rast nad skupno dobro na načine, ki bi lahko bili resnično, resnično nevarni glede na moč in informacije, ki jih ima ta industrija.

Ko sva ravno pri moči, zdaj vodite Signal, neprofitno organizacijo, ki je za mnoge ljudi po vsem svetu pojem zasebnosti in kibernetske varnosti. Kako vam je uspelo zgraditi tako široko zaupanje v to storitev, še posebej v času, ko je v porastu nezaupanje v institucije, ljudi?

Zaupanje si je treba prislužiti. Počasi se ga pridobi, hitro pa se izgubi, z njim se kaže vzorec vedenja in zanesljivosti skozi čas. Mi ne prosimo ljudi, naj nam zaupajo, temveč se trudimo biti čim bolj vredni zaupanja, čim bolj odprti, svojo kodo razvijamo na odprtokodni način, svoje šifrirne protokole odpiramo varnostnim strokovnjakom in drugim, ki bi želeli preveriti in preučiti matematično implementacijo. Dejansko nikogar ne prosimo, naj nam slepo zaupa, temveč prosimo ljudi, naj bodo čim bolj kritični do nas.

Je to težko?

Je, in to iz več razlogov. Prvič, tehnološki ekosistem, tehnološka industrija, kot obstaja zdaj, kot je bila grajena od 90. let prejšnjega stoletja, je strukturirana okoli zaslužka z zbiranjem in s prodajanjem podatkov. To je poslovni model, ki je prisoten v vseh storitvah informacijske družbe.

Proti temu se je izredno težko boriti. Pravzaprav moramo na neki način prepisati dele osnovnih knjižnic, da omogočimo zasebnost, da ustavimo zbiranje osebnih podatkov, ki je danes pravzaprav nekaj najbolj normalnega. Plavamo proti toku v večmilijardni industriji, kjer zasebnost ni bila prednost, zaupanje pa zagotovo ni del poslovnega modela.

Profitni motiv je nasproten zasebnosti, zbiranje podatkov je nasprotno zasebnosti. Neprestano moramo razmišljati o svoji strukturi in jo zaščititi pred logiko dobička in rasti, ne nujno zato, ker je to slabo samo po sebi, temveč zato, ker ta logika vodi v družbo nadzora.

Signal deluje na Android in iOS platformi, pozna pa tudi namizno rešitev.

Signal je zato strukturiran kot neprofitna organizacija in zato se resnično trudimo delovati proti vzgibom, ki spodbujajo družbo nadzora. Na dolgi rok je to edini način, da ostanemo zvesti samim sebi.

In ko že govorimo o ekonomiji ali nadzornem kapitalizmu … To je en del enačbe, kajne? Industrija se osredotoča na zbiranje informacij, njihovo povezovanje in preprodajo najboljšemu ponudniku. Po drugi strani pa imamo politike, ki zasebnost rušijo zaradi občutka varnosti. Kako se pri Signalu soočate s to lažno dilemo med varnostjo in zasebnostjo?

Mislim, da ta razprava, žal, poteka že od sredine 70. let prejšnjega stoletja in od prej, ko je bila uvedena javna ključna kriptografija kot način za zaščito omrežja. Danes vidimo, da se lažna dilema med varnostjo in zasebnostjo pojavlja na krilih več izgovorov – od tega, da morajo »dobri fantje« spodkopati zasebnost, ker je to edini način obrambe pred terorizmom, do tega, da lahko samo z vdori v zasebnost ustavimo zlorabljanje otrok.

A motiv za temi razlogi je vedno enak. Nekatere vlade in organi pregona očitno menijo, da temeljna človekova pravica do zasebne komunikacije ne bi smela biti na voljo ljudem na spletu, da ne bi smelo biti komunikacijskega omrežja, ki mu ni mogoče prisluškovati oziroma ga nadzorovati. In to je po mojem mnenju izredno nevarno in v nasprotju z večletno držo stroke, ki opozarja, da bodo vse varnostne izjeme (t. i. back-door), ki so v osnovi narejene za »dobre fante«, lahko zlorabili napadalci, sovražne države oziroma kdorkoli z znanjem in željo. Torej, to je zelo škodljiv način razmišljanja, ki povrhu vsega ni vedno iskren, saj se zagovorniki varnostnih izjem ne zanašajo na dejanske podatke.

Danes so politike varovanja zasebnosti na udaru tako v ZDA kot tudi v Evropski uniji in drugod po svetu. Zakaj je tako?

Ne vem, o čem razmišljajo posamezne vlade, a zgodovinsko gledano se je povezovanje med tehnološkim sektorjem in različnimi vladami dogajalo že od začetka 21. stoletja.

Današnji tehnološki velikani so že takrat z odprtimi rokami sprejemali vladne politike nadzora in jim posredovale ogromne količine naših podatkov. To se danes še vedno dogaja, vendar so Snowdnova razkritja resnično osvetlila to prepletenost med tehnološkim sektorjem in ameriško vlado ter drugimi.

Kot posledica se je začela industrija počasi obračati proti zasebnosti, vendar je s tem reševala svoj ugled, saj se je morala nekako distancirati od razkritega sodelovanja s svetovnimi vladami. Danes lahko vidimo, kako številna podjetja dodajajo šifriranje komunikacij. Industrija se je torej obrnila k zasebnosti, da bi v bistvu rešila svoj ugled.

Za zasebnost je izredno pomemben Signalov protokol, ki je omogočil resnično zasebno komunikacijo na mobilnih napravah in ga zdaj tudi drugi ponudniki dodajajo v svoje storitve oziroma aplikacije.

Meredith Whittaker se je letos uvrstila na lestvico 100 najvplivnejših ljudi na področju umetne inteligence revije Time.

Začenja se stopnjevana kampanja, kot bi rekli, za spodkopavanje jamstev zasebnosti, ki so bila uvedena po Snowdenu, zdaj pa sta med njimi najpomembnejša Signal in Signal protokol.

Pogosto poskušajo ljudje, ki so morda nekoliko ozkogledi ali zmedeni, spodkopati te spremembe. Čeprav se na tem področju dogajajo velike spremembe, se mi zdi, da zasebnost zmaguje. Da smo v zadnjih nekaj letih dosegli številne zasebnostne zmage, zavrnili veliko število zelo slabih zakonodajnih predlogov, in to navkljub neiskreni igri nasprotnikov zasebnosti, ki so igrali na čustva in ignorirali znanost.

To je izredno težka bitka, vendar je neverjetno pomembna in hvaležna.

Ena od težavnih posledic te bitke je komodifikacija zasebnosti. Zasebnost postaja tržna dobrina, ki jo preprodajalci menjajo za storitve oziroma proti plačilu. Je to problem?

Plačevanje za zasebnost ne deluje, ker je v komunikacijo vedno vpletenih več ljudi, in če nimajo vsi enake stopnje zasebnosti, ta nima smisla. Obstajajo odlične zasebnostne e-poštne storitve, kot je Proton Mail, a vam to nič ne pomaga, če komunicirate z nekom, ki uporablja Google Mail. Brezplodnost modela plačevanja zasebnosti hitro pokaže na vse težave, ki nastanejo ob pomanjkanju zasebnostih standardov in pravic, ki veljajo za vse.

Ko že govorimo o omrežjih in velikih igralcih na tem področju … Kaj bi bil najboljši način za razgradnjo tega kapitalizma nadzora, kjer Google in ostali velikani po eni strani vzdržujejo monopolne položaje na trgu, po drugi strani pa so skoraj nepogrešljivi za veliko število ljudi po vsem svetu?

To vprašanje nima samo enega odgovora. Po mojem mnenju delno zato, ker so te storitve prodrle in postale osrednja infrastruktura za toliko heterogenih funkcij vsakdanjega družbenega, gospodarskega in celo vladnega sektorja.

Predstavljajte si, da pri svojem delu ne bi uporabljali Googlovih ali Amazonovih storitev. Predstavljajte si, da ne uporabljate družabnega spleta, da nimate digitalnega odtisa in poskušate zaprositi za posojilo, se prijaviti na delovno mesto.

Ko začnemo premišljevati o življenju brez spletnih velikanov, lahko vidimo, kako globoko so te storitve prodrle v naša življenja in kako moramo biti izredno natančni pri odgovarjanju na vprašanja o razreševanju tega konflikta.

Moramo se vprašati, kakšno vlogo imajo svetovne vlade, kako bi morala biti videti neodvisna tehnična infrastruktura in kakšen je demokratični način upravljanja tehnologije. Kakšne vrste upravljavskih struktur moramo vzpostaviti, da omogočimo sodelovanje na ravni oblikovanja in funkcij ter kako tehnologija deluje, kako spoštuje ali nažira naše temeljne pravice?

In to so zelo pomembna in zanimiva vprašanja, sploh v času, ko smo se prenehali spraševati, ali je model kapitalizma nadzora dober ali slab. Tudi industrija se vedno bolj izreka proti podpiranju velikih igralcev na tem področju in poskuša s podpiranjem manjših in razpršenih podjetij spremeniti pravila igre. Lahko sicer dvomimo o njihovi iskrenosti, a po drugi strani je sporočilo jasno.

Politika zasebnost vedno bolj razume kot grožnjo, ne pa pravico. Foto: Lukas S., Unsplash

Spraševati se moramo, kako bi razgradili in razorožili centralizirano moč, ki jo imajo veliki posredniki vsebin. Kako bi bila videti neodvisna oblačna infrastruktura? Kakšna bi bila neodvisna komunikacijska omrežja, kakšni neodvisni interoperabilni protokoli? Kako in kdo bi vse to financiral? Kako bi vzpostavili upravljavske strukture, ki ne delujejo kot upravni odbori velikih tehnoloških podjetij s svojim poudarkom na dobičku, prihodkih in rasti, ampak imajo bolj državljansko usmerjene dolžnosti in procese, ki delujejo na prezračevanju tehnološkega ekosistema in ga naredijo bolj prijaznega za gradnjo tehnologij, ki dejansko služijo koristnim prihodnostim?

Kdo bi moral biti gonilna sila te razprave, tega velikega premisleka? Včasih se zdi, da se ta razprava oblikuje na enem področju, recimo v enem delu industrijskega ekosistema, v enem podjetju, včasih ena oseba razmišlja o konceptu in potem drugi to samo ponavljajo. In ko poslušamo politične razprave, medijske razprave, se zdi, da veliko ljudi o tem ne razmišlja, samo ponavljajo argumente in protiargumente za neki primer.

To ni naloga ene odgovorne osebe, saj je obseg preprosto prevelik. Hkrati platforme v različnih državah opravljajo različne funkcije, Facebook v Mjanmaru pomeni čisto nekaj drugega kot Facebook na Švedskem. Resnično moramo razmišljati o vseh mogočih kombinacijah na lokalni ravni in prepoznati vlogo velikih posrednikov ter nato razvijati specifične storitve za specifične javnosti.

Kako načrtujete in oblikujete funkcije, ki končajo v Signalu? Veliko se govori o tem, da bi bil Signal na voljo na Graphene OS kot domača aplikacija ali da ne bi smeli uporabljati telefonskih številk kot ID. Obstaja veliko različnih idej, kako se odločite, katere uporabiti in razviti in katerih ne?

Glas ljudstva jemljemo zelo resno. Prav tako smo resni pri brezkompromisnem določanju prioritet, da se lahko osredotočimo na resnično pomembne stvari.

V praksi se odrečemo veliki večini funkcij, ki bi jih radi vključili v aplikacijo, ker resnično cenimo osredotočenost in uravnoteženost razvoja. Premisleki o dejanski implementaciji novosti so dolgi in temeljiti, vedno jih tehtamo glede na njihov vpliv na zasebnost in uporabnost za naše uporabnike. Bodo ljudje Signal raje uporabljali, če mu bomo dodali določeno funkcijo ali bo brez te funkcije zanje neuporaben?

Pred leti smo uvedli funkcijo zgodb, kot jo pozna Instagram. Ta funkcija je za naše uporabnike v Združenih državah Amerike in Evropski uniji skoraj neuporabna, vendar je nepogrešljiva pri naših brazilskih in južnoazijskih uporabnicah in uporabnikih.

Ker ne zbiramo uporabniških in telemetričnih podatkov, je v primerjavi z drugimi aplikacijami izredno zahtevno priti do uporabnosti/uporabljanosti posameznih funkcij, vendar to počnemo na več alternativnih načinov, saj nam mnenja uporabnikov dajejo smer razmisleka.

Kaj pa uporaba mobilnih telefonskih številk za identifikacijo uporabnikov? To zagotovo ne more biti dobro za uporabniško zasebnost? Razmišljate o uporabe alternativne metode za registracijo novih uporabnikov?

To je res, v določenih primerih lahko telefonske številke razkrijejo identiteto uporabnika, odvisno od lokalne zakonodaje. Zato smo pred kratkim dodali možnost kontaktiranja uporabnika s pomočjo uporabniškega imena, brez poznavanja uporabnikove telefonske številke. Registracija aplikacije pa zaenkrat še vedno poteka z uporabo telefonske številke, saj je to trenutno ena najmočnejših zaščit pred napadalci, ki bi radi zlorabljali storitev za lažne uporabniške račune. Zaenkrat telefonske številke ostajajo.

Zanima me še možnost prenosa sporočil znotraj Signala, iz ene na drugo napravo, ter izvažanje varnostnih kopij sporočil?

To je pomembna funkcija in jo imamo na seznamu prihodnjih izboljšav.

Katere so najzahtevnejše tehnološke ovire, ki jih morate preskočiti pri implementaciji novih funkcij?

Običajno programiranje z močnim šifriranjem zahteva več virov, računalniško je počasnejše. Pogosto pomeni, da se ne moreš poslužiti najbolj priljubljenih načinov programiranja, ampak moraš najdi rešitev, ki spoštuje zasebnost. Ko smo razmišljali o vključevanju animacij (gif, op. p.) v Signal, nismo le dodali rešitve Giphy, ki je na spletu najbolj priljubljena, saj je ta storitev v lasti podjetja Meta. Dejansko smo morali preprogramirati velike dele izvorne aplikacije, da smo lahko uporabo animacij vključili na način, ki še vedno spoštuje uporabnikovo zasebnost in (Meti) ne prepošilja uporabniških podatkov.

Večkrat ste javno izjavili, da Signal ne bo na voljo na trgih, ki bodo sprejeli zakonodajo, ki posega v zasebnost ali omogoča zadnja vrata za »dobre fante«. Kako vidite razvoj dogodkov na tem področju do konca letošnjega leta oziroma v letu 2025? Se bo situacija glede političnih napadov na zasebnost izboljšala ali poslabšala?

Tega ne vem, a mislim, da politika vedno bolj razume argumente strokovne javnosti, ki opozarjajo na pomembnost zasebnosti. Ne delam si iluzij, da bomo ta boj dobili z argumenti, saj se soočamo z zagovorniki družbe nadzora, ki se požvižgajo na našo zasebnost.

Vseeno zagotavljam, da bomo boj za zasebnost nadaljevali in da od njega ne bomo odstopali. Signal preprosto ne bo spoštoval nobene zakonodajne oziroma pravne rešitve, ki bo spodkopavala zasebnost oziroma nas silila k programiranju dostopa prek zadnjih vrat. Zasebnost je za nekatere naše uporabnike vprašanje življenja in smrti in to bomo vedno spoštovali.

Imam samo še eno vprašanje glede vseh govoric in teorij zarot, ki se v povezavi z vašo aplikacijo pojavljajo na spletu, od tega, da naj bi Signal programirala ameriška obveščevalna agencija CIA, do tega, da Signal ogroža zasebnost in drugo. O tem sva danes že govorila, a me vseeno zanima, kaj svetovati uporabnikom, ki se brez tehnološkega znanja odločajo med vašo aplikacijo in Telegramom oziroma drugimi storitvami na temu področju. Zdi se mi namreč, da je za nekatere uporabnike izbira podobna odločanju o oblekah, da so torej pomembni samo barve in videz.

Na žalost je dejanska situacija veliko resnejša od modne izbire. Vedno več je dezinformacij, za katerimi po našem mnenju v nekaterih primerih stojijo nekatere svetovne vlade oziroma druge skupine, ki jim je v interesu, da ljudje uporabljajo zelo nezanesljivo komunikacijsko aplikacijo, kot je Telegram.

Signal je nepogrešljiv za aktiviste in novinarje, še posebej v represivnih državah. Foto: Austin Crick, Unsplash

Kako ustavimo dezinformacije in kako se borimo proti njim? Trudimo se biti odprti, Signal temelji na odprti kodi, redno izvajamo varnostne preglede, hkrati pozdravljamo kritike in recenzije strokovne javnosti. Kar najbolj se trudimo z nastopi in s predstavitvami za javnost, s katerimi zavračamo te nesmiselne in neutemeljene teorije zarote.

Hkrati prosimo ljudi, ki širijo te teorije zarote samo zato, da bi izpadli »kul« oziroma da bi bili v središču pozornosti, naj si raje najdejo kakšno manj smrtonosno temo. Zavedamo se namreč, da so za nekatere naše uporabnike, ki nimajo zadostnega tehničnega znanja, da bi sami preverili varnost naše aplikacije, te govorice dejansko odločitev med življenjem in smrtjo.