Samodejno prepoznavanje, tudi v Sloveniji
Tehnologije prepoznavanja obrazov so vse bolj prisotne tudi v Sloveniji. Že zdavnaj ne gre več za novotarijo tehnodeterministične elite, ki jo lahko videvamo v znanstvenofantastičnih filmih oziroma prototipih tehnološke industrije, temveč se prepoznavanje obrazov tudi v Sloveniji vedno bolj uveljavlja kot tehnološka rešitev na več področjih.
Že danes v Sloveniji kupimo vhodna vrata, ki jih odklepamo z obrazom, na ljubljanskem letališču Jožeta Pučnika smo se lahko v okviru pilotnega projekta lani skozi terminal sprehodili ob pomoči bralnika obraza, slovenska policija pa si že od leta 2014 svoje delo lajša z uporabo tehnologij prepoznavanja obrazov.
Vedno več letališč uvaja biometrijo. Tudi Slovenija.
Slovenija tako sledi svetovnim tehnoloških trendov, utemeljuje pa jih z enostavnostjo in s hitrostjo uporabe ter z naprednostjo. A tako kot drugje po svetu se tudi pri nas vse premalo pogovarjamo o vdorih v zasebnost, nenatančnosti tehnologij za prepoznavanje obrazov in posledicah površne implementacije. Svarila nevladnih organizacij in nadzornih organov večinoma izzvenijo v prostoru, veliko ljudi jih razume kot nazadnjaška in pretirana.
Letališče je igrišče
Na ljubljanskem letališču so izvajalci podjetja Amadeus v sodelovanju s Fraportom Ljubljana po lastnih besedah uspešno izvedli pilotni projekt uporabe biometričnih podatkov in obraznega prepoznavanja za vstop na letalo.
Sodelovalo je več kot sto petdeset ljudi, sistem pa je poskeniral obraz, ga primerjal s fotografijo v potnem listu in v primeru skladnosti dovolil potniku, da se vkrca na letalo. Izvajalci se v študiji primera pohvalijo s hitrejšim časom vkrcavanja, hkrati so predstavniki Fraporta pojasnili, da si v prihodnosti želijo, da bi ljubljansko letališče prevzelo vodilno vlogo pri modernizaciji postopkov »obdelave« potnikov.
Leta 2017 so policisti ustavili slovensko državljanko in jo poskusili legitimirati, pa pri sebi ni imela dokumentov. Takrat je opazila, da so se jim na zaslonu prikazale tudi njene fotografije – tudi tiste, ki jih ima objavljene na svojem Facebooku.
Toda … med postopkom preverjanja identitete potnika in ujemanja obraza s fotografijo v potnem listu so se osebni podatki potnikov pošiljali v tretje države, potniki pa o tem niso bili obveščeni.
Informacijski pooblaščenec pojasnjuje, da je v zvezi s tehnologijo prepoznavanja obrazov na ljubljanskem letališču postopek inšpekcijskega nadzora najprej uvedel nad podjetjem Fraport Slovenija, d. o. o., pri čemer pa je ugotovil, da je navedeni zavezanec v okviru pilotnega projekta, katerega točen naziv je Ljubljana Airport Biometric Trial, nastopal le v vlogi dajalca infrastrukture, sam projekt pa je dejansko vodilo podjetje Amadeus.
»Magična vrata« rešujejo neobstoječe probleme.
Informacijski pooblaščenec je na podlagi teh ugotovitev skladno z določbami 56. člena Splošne uredbe o varstvu podatkov sprožil postopek ugotavljanja vodilnega nadzornega organa, saj je pri pilotnem projektu nedvomno šlo za čezmejno obdelavo osebnih podatkov, ki jo je izvajalo mednarodno podjetje Amadeus s sedežem v Madridu.
Tehnologije prepoznavanja obrazov na letališčih uvajajo na več mestih po vsem svetu. Vodilne so seveda Združene države Amerike, kjer se je uvajanje tehnologij prepoznavanja obrazov na letališčih začelo že leta 2018, a samo za tuje potnike, ki so vstopali na njihovo ozemlje.
Ko je ameriška služba za domovinsko varnost lani decembra poskušala tehnologijo prepoznavanja obrazov razširiti tudi na državljane ZDA, so se nevladne organizacije in splošna javnost temu uprli. Tako se lahko še danes Američani skeniranju obrazov na lastno željo izognejo, za tujce pa je biometrično preverjanje obvezno.
Evropska letališča sledijo trendom. Velika letališča po celotni Evropi imajo skenerje obrazov nameščene kot del obveznih postopkov ob prečkanju meja, druga izvajajo pilotne projekte s tehnologijami prepoznavanja obrazov.
Kritiki opozarjajo, da letališča z implementacijo tehnologije prepoznavanja obrazov igrajo nevarno igro. Najprej je tukaj relativna nenatančnost tehnologije, ki jo je relativno enostavno mogoče pretentati. Raziskovalci podjetja Kneron so namreč s plastično masko obraza uspešno pretentali bralnike obrazov na več svetovnih letališčih, od nizozemskega Schipola do kitajskega sistema za obrazno prepoznavanje na letališčih v Pekingu.
Ko je ameriška služba za domovinsko varnost lani decembra poskušala tehnologijo prepoznavanja obrazov razširiti tudi na državljane ZDA, so se nevladne organizacije in splošna javnost temu uprli.
Poleg pomanjkljivosti na področju tehnoloških standardov je tukaj še družbena komponenta. Letališča namreč z uporabo tehnologij prepoznavanja obrazov to tehnologijo normalizirajo, sociologi in družbeni teoretiki pa opozarjajo, da ima lahko to dolgoročne slabe posledice.
»Tehnologije nadzora imajo dolgo zgodovino uporabe letališč kot preizkusnega poligona,« piše sociolog Dave Gershgorn, »in tehnologije prepoznavanja obrazov sledijo tem trendom.« Gershgorn pojasnjuje, da »letališča delajo tehnologijo prepoznavanja obrazov dolgočasno in vsakdanjo, s tem pa ustvarjajo mišljenje, da so vsi sistemi za prepoznavanje obrazov med seboj enaki in da se jim ni mogoče izogniti«.
Slovenska policija sledi trendom in na problematičen način uvaja problematično tehnologijo.
A to seveda ni res. Pomanjkanje zakonodaje, ki bi regulirala uporabo tehnologij prepoznavanja obrazov in varovala naše biometrijske podatke, je samo še en problem, ki nakazuje burno prihodnost.
Kdo ima čas za ključe?
V času, ko se vedno več spletnih storitev odloča za fizično varovanje dostopa do oblačnih storitev ob pomoči fizičnih ključev za dvofaktorsko avtentikacijo, tehnološka industrija na drugi strani prepričuje ljudi, da je izum fizičnega ključa za odklepanje fizičnih vrat stvar preteklosti in da je obrazno prepoznavanje za oklepanje tisto pravo.
Tako lahko tudi v Sloveniji kupimo vhodna vrata, ki kot varnostni mehanizem uporabljajo tipala za prepoznavanje obrazov. Spet nismo daleč od svetovnih trendov, ki že več let ponujajo podobne rešitve in kot razlog za uvajanje omenjajo enostavnost uporabe. Zveni znano, kajne?
V oglasnem gradivu lahko preberemo: »Največji napredek pri izdelavi vhodnih vratih v zadnjih letih zaznavamo ravno na področju elektronike. Sodobni sistemi za odklepanje in zaklepanje vhodnih vrat, ki omogočajo krmiljenje vrat na različne načine, počasi izpodrivajo klasične ključavnice. Odklepanje s ključi postaja preteklost, saj elektronske ključavnice nudijo udobno in varno odpiranje vrat z uporabo različnih sodobnih medijev, kot so kartice, obeski, pametni telefoni, silikonske zapestnice, prstni odtis in celo pogled.« Proizvajalec še dodaja, da lahko kupite tudi vrata, ki »delujejo ob pomoči sistema za prepoznavanje obraza: sistem lastnika prepozna in mu omogoči vstop popolnoma brez dotikanja. Si predstavljate? Vračate se s polnimi rokami nakupovalnih vrečk in namesto mrzličnega iskanja ključa, kartice, telefona ali drugega medija vas vaša vhodna vrata prepoznajo in se vam za dobrodošlico samodejno odprejo, ko vstopite, pa se za vami nežno zaprejo.«
Obrazne maske za zdaj učinkovito slepijo algoritme.
Seveda ob tem pozabljajo na zgornje primere zlorab tehnologije, na ustvarjanje novih popolnoma nepotrebnih potreb (ključ za vhodna vrata so prvič uporabili pred šest tisoč leti, človek ima z vrečkami v rokah težave šele leta 2020) in na nerazrešena vprašanja o obdelavi biometričnih podatkov, ki se s takimi ključavnicami lahko shranjujejo.
Industrija je tako na novem pohodu … Namreč če so pred desetimi leti vse naprave priklapljali na internet in se hvalili, da bo internet stvari rešil vse naše težave, se zdaj zgodba ponavlja s tehnologijami prepoznavanja obrazov.
Tudi letošnji osrednji tehnološki sejem CES 2020 je bil poln tehnologij prepoznavanja obrazov, največ o inovativnosti te tehnologije pa pove dejstvo, da je nagrado za inovacijo na letošnjem sejmu dobila tudi škatla za hrambo marihuane, ki je »zaklenjena« s tehnologijo prepoznavanja obrazov. Poleg tega smo lahko tehnologije za prepoznavanje obrazov na CES 2020 opazovali v vratih, igralnih avtomatih, prodajalnah s hitro prehrano ... Razlog je bil vsakič enak. »Stranke so vesele, da se jim treba predolgo časa ukvarjati z naročilom hrane,« je biometrični sistem za profilizacijo strank pohvalil Yale Goldberg, direktor podjetja PopID.
Organi pregona obožujejo prepoznavanje obrazov
Konec leta 2019 je avstrijska nevladna organizacija AlgorithmWatch objavila raziskavo o uporabi tehnologij za prepoznavanje obrazov v evropski policiji. Od petindvajsetih državnih policij v Evropi jih kar deset uporablja tehnologije prepoznavanja obrazov – med drugim tudi slovenska. Že od leta 2014.
Izkaže se, da je policija takrat kupila programsko opremo domačega proizvajalca, celjskega podjetja Cent Si, d. o. o, s katero naj bi si olajšala delo pri povezovanju fotorobotskih skic osumljencev in ljudi, ki so že zavedeni v Evidenci fotografiranih oseb. A lahko v medijskih poročilih iz kasnejših let hitro ugotovimo, da je s tem načinom uporabe kar nekaj težav.
Tehnologije prepoznavanja obrazov uporablja večna evropskih policij.
Najprej je tukaj Evidenca fotografiranih oseb, v kateri se lahko znajdejo tudi vaše fotografije, ki ste jih objavili na spletu. Družabna omrežja in druge spletne lokacije (tudi spletni medijski portali!) so namreč po pojasnilih policije že dolgo časa vir informacij, prav omrežje Facebook pa je na več mestih omenjen kot odprt vir, kamor se izplača vlagati sredstva in energijo. V dokumentu iz leta 2017 z naslovom Praktično izvajanje in izvrševanje evropskih politik na področju preprečevanja kibernetske kriminalitete in boja proti njej namreč piše, da je »(bil) v okviru skupine pripravljen uporabniški priročnik o odprtih virih, ki je priročnik za uporabo odprtih virov pri preiskavah. Usmerjen je v preiskovanje dejavnosti na družbenem omrežju Facebook, treba pa bi ga bilo posodabljati, razširjati in prilagajati. Na podoben način bi bilo treba pripraviti drugo gradivo na temo preiskovanja kibernetske kriminalitete.«
Ključ za vhodna vrata so prvič uporabili pred šest tisoč leti, človek pa ima z vrečkami v rokah, ki ovirajo odklepanje vrat, težave šele leta 2020. Je zaredi teh res smiselno ukiniti ključe in uvesti prepoznavanje obrazov?
Kako je to videti v praksi? V slovenskih medijih lahko zasledimo več primerov, kjer je očitno, da policija indeksira prosto dostopne fotografije na spletu in jih uporablja za identifikacijo potencialnih zločincev. Tako lahko beremo o primeru iz leta 2017, ko so državljanko policisti na cesti ustavili in jo poskusili legitimirati, pa pri sebi ni imela dokumentov. »Takrat je opazila, da so se jim na zaslonu prikazale tudi njene fotografije – a ne le tiste uradne, ki jih ima v potnem listu, na osebni izkaznici in vozniškem dovoljenju, pač pa tudi tiste, ki jih ima objavljene na svojem Facebooku,« piše na portalu MMC RTV Slovenije.
Čeprav naj bi uporabo tako invazivnih tehnologij, kot so tehnologije prepoznavanja obrazov, v teoriji nadziralo več neodvisnih državnih organov, med drugim tudi informacijski pooblaščenec in varuh človekovih pravic, se lahko prav iz primera slovenske policije in ravnanja obeh omenjenih neodvisnih organov naučimo, da bomo na tem področju potrebovali še veliko vaje.
Tudi letošnji CES je s tehnologijami prepoznavanja obrazov pokal po šivih.
Informacijski pooblaščenec namreč opozarja, da je s svojimi mnenji in priporočili, objavljenimi na spletišču informacijskega pooblaščenca, svaril pred neregulirano in pretirano rabo tehnologij prepoznavanja obrazov, ki seboj nosijo (pre)velika zasebnostna tveganja. Tako so med drugim zapisali, da »v zvezi z novo predlaganim 2. odstavkom, ki izrecno dopušča možnost pridobivanja podatkov za analizo 'iz vseh javnih virov', ponovno opozarjamo na stališče IP, da policija ni upravičena na zalogo in na splošno vršiti nadzora 'vseh javnih virov', še zlasti ne objav na družbenih omrežjih, forumih in podobnih spletnih straneh z uporabniško generirano vsebino. Zbiranje oziroma analiziranje podatkov (podrobneje opredeljeno v 112. oziroma 122. členu, ki se oba spreminjata v to smer, kot opozarjamo v nadaljevanju) mora namreč po mnenju IP biti omejeno na postopke v zvezi s konkretnimi kaznivimi ravnanji oziroma osumljenci. Tudi v primeru preventivnega delovanja policije in opravljanja preventivnih dejavnosti mora biti delovanje policije usmerjeno in ne bi smelo vključevati vsesplošnega nadzora nad vsemi.«
Informacijski pooblaščenec še izpostavlja, da je varuhu človekovih pravic takrat podal pobudo ustavne presoje zakonodaje, ki je uvajala tehnologije prepoznavanja obrazov, nadzor z droni in samodejno prepoznavanje registrskih tablic na vozilih, pa se varuh človekovih pravic za presojo tehnologij prepoznavanja obrazov ni odločil. Zakaj ne? Varuh pojasnjuje, da se »vedno o tem, ali bo vložil zahtevo za oceno ustavnosti ali ne, odloči na podlagi lastne ocene vseh relevantnih informacij in okoliščin. Enako je storil v konkretnem primeru z ZNPPol po sprejetju novele ZNPPol-A, ki ga je izpodbijal na treh različnih področjih, ne pa tudi z vidika biometrije. Eden od razlogov za takšno odločitev je bila tudi ocena informacijskega pooblaščenca, da civilna družba ni izražala resnih nasprotovanj glede uporabe tehnologije prepoznave obrazov s strani policije.«
Ustavna presoja samodejnega sistema za prepoznavanje registrskih tablic je bila vložena leta 2017, ustavni sodniki pa so odločitev o prepovedi sprejeli lani.
Vloga javnosti pri uvajanju tehnologij
Po vsem svetu se krepi odpor javnosti proti prekomernemu uvajanju tehnologij prepoznavanja obrazov. Študije opozarjajo, da so trenutni sistemi za prepoznavanje obrazov nenatančni, da je možnost napačne identifikacije oziroma šuma za zdaj še prevelika za resno ali celo avtomatizirano uporabo.
A javni nadzor na tem področju šepa zaradi več dejavnikov, hkrati je nevarno pričakovati, da bodo ljudje sami od sebe branili lastne človekove pravice in zasebnost. To je namreč razvidno iz dopisovanja med informacijskim pooblaščencem in varuhom človekovih pravic, ki »pasivno civilno družbo« navaja kot enega od razlogov za neuvedbo ustavne presoje te invazivne tehnologije. Hkrati je treba opozoriti, da je širša slovenska javnost za primer uvajanja tehnologij v policiji izvedela po poročanju iz tujine, prav tako za primer ljubljanskega letališča.
Ob tem se je treba vprašati, kako gresta skupaj »odločanje na podlagi lastne ocene« in upoštevanje odziva civilne družbe. Če se civilna družba nevarnosti sploh ne zaveda, hkrati pa ima informacijski pooblaščenec v rokah dokumente, ki bi jih civilna družba potrebovala za oblikovanja mnenja o določeni zadevi, kdo potem ne opravlja svojega dela?
Končno je treba opozoriti še na počasnost sodnih mlinov na tem področju. Ustavna presoja avtomatskega sistema za prepoznavanje registrskih tablic je bila vložena leta 2017, ustavni sodniki pa so odločitev o prepovedi sprejeli lani.
Tveganja tehnologij prepoznavanja obrazov
Čeprav se v javnosti poudarja predvsem prednosti uporabe tehnologij za prepoznavanje obrazov, so tveganja prav tako, če ne še bolj, konkretna.
Prvi problem je nenatančnost algoritmov za prepoznavanje obrazov, kar pomeni identifikacijo napačnih oseb na dva načina – lahko se zgodi, da prave osebe tehnologija ne prepozna (v praksi to, recimo, pomeni, da imate na telefonu nastavljeno odklepanje z obraznim prepoznavanjem, pa vas telefon ne zazna) oziroma tehnologija prepozna napačno osebo (v praksi to pomeni, da vaš telefon z obrazom odklene vaš sosed).
Druga težava nastane pri kraji identitete. Že danes lahko na več mestih spremljamo opozorila o tehnologiji, ki jo je mogoče pretentati s 3D-modelom obrazne maske, v prihodnosti pa bomo lahko spremljali boj mačke z mišjo, kjer bo industrija razvijala vedno bolj kompleksne algoritme za prepoznavanje obrazov, nepridipravi pa vedno bolj inovativne načine za njihovo sleparjenje.
Tretja zagata je izredno težavna »menjava« obraza. Kaj hitro se lahko zgodi, da se bo z vse večjo priljubljenostjo tehnologij prepoznavanja obrazov in povezovanja različnih sistemov vaš obraz znašel v podatkovnih zbirkah brez vašega privoljenja. In če lahko zlorabljena uporabniška imena in bančne podatke relativno enostavno zamenjamo, bo edina učinkovita metoda v primeru zlorab biometričnih podatkov prisilna lepotna operacija?
Zakonodaja je monetizacija vdorov v zasebnost
Zaradi vedno širše rabe in vedno glasnejših opozoril se zadeve premikajo tudi na zakonodajnem področju. Povsod po svetu zakonodajalci v predloge vmeščajo tudi zasebnostne pravice, a je na žalost na tem področju več kot očitno, da zakonodajalec hitro trči ob problem izvajanja zakonodaje in učinkovite regulacije.
Zagovorniki zakonodaje GDPR, ki je bila na evropski ravni sprejeta leta 2016, veljati pa je začela 2018, se sicer hvalijo z višino finančnih kazni za kršitelje uporabnikove zasebnosti, a jih nasprotniki opozarjajo, da gre za relativno nizke zneske – trenutno najvišji znesek predstavlja kazen za letalsko družbo British Airlines, ki znaša odstotek njihovega letnega prometa oziroma dobrih 200 milijonov evrov, medtem ko je Googlova najvišja kazen dobrih 50 milijonov evrov.
GDPR je bil že uporabljen tudi v primeru tehnologij za prepoznavanje obrazov. Švedski informacijski pooblaščenec je avgusta lani oglobil šolo in lokalne oblasti švedskega mesta Skellefteå, kjer je gimnazija s sistemom za prepoznavanje obrazov hotela avtomatizirati štetje prisotnosti dijakinj in dijakov pri pouku, o tem pa jih je »pozabila« obvestiti. Višina kazni? Dober milijon evrov.
Občutek varnosti v zameno za izgubo zasebnosti
Tudi na širšem področju Evropske unije se odločevalci ponovno izgubljajo v labirintih industrije, ki poskuša popularizirati uporabo tehnologij za prepoznavanje obrazov in pri tem ne sliši vedno glasnejših opozoril zagovornikov zasebnosti.
Tako je novoimenovana Evropska komisija naprej razmišljala o petletni prepovedi kakršnekoli uporabe tehnologij za prepoznavanje obrazov na javnih mestih, v dokumentih s konca januarja 2020 pa razmišlja samo o »določitvi jasnih pravil uporabe sistemov za biometrični nadzor«.
Na Švedskem so lani oglobili šolo in lokalne oblasti švedskega mesta Skellefteå, kjer je gimnazija s sistemom za prepoznavanje obrazov hotela avtomatizirati štetje prisotnosti dijakinj in dijakov pri pouku, o tem pa jih je »pozabila« obvestiti. Višina kazni? Dober milijon evrov.
Če na stvar gledamo z zornega kota informacijske industrije, je odločitev razumljiva. Globalni trg za biometrične rešitve naj bi bil leta 2024 vreden dobrih sedem milijard evrov, Evropska unija pa se boji, da jo bodo na tem industrijskem področju povozile Kitajska in Združene države Amerike, ki so trenutno vodilne sile na tem področju.
Sicer med glavnimi razvojnimi podjetji trenutno še poteka boj za standarde in nadzor nad razvojnim ciklom tehnologije (Google je evropski moratorij na tehnologije prepoznavanje obrazov podprl, medtem ko je Microsoft prepovedi nasprotoval in omenjal koristi pri iskanju pogrešanih oseb), a je industrijski trend na tem področju jasen.
Manj jasno je, kaj si o tem mislijo državljanke in državljani. Tako kot pri naših osebnih in prometnih podatkih, s katerimi danes trgujejo vsi večji spletni ponudniki, tudi na področju biometričnih podatkov trenutno ni zaznati široke javne razprave, kjer bi politika resno poslušala opozorila zagovornikov zasebnosti in skrbela za posameznikov zasebnost.
Zna se zgoditi, da bomo pasivnost neodvisnih nadzornikov in neznanje civilne družbe v prihodnosti drago plačali. A bomo po drugi strani bolj enostavno odpirali vrata svojih domov, ko bomo obloženi z vrečkami hodili iz trgovin. Tudi to je nekaj.
