Geslo: vaš obraz

Tehnologije za prepoznavanje obrazov počasi prihajajo v splošno rabo. Lahko jih zasledimo v pametnih telefonih in drugih napravah zabavne elektronike, kjer uporabnikom biometrični podatki ponujajo novo bližnjico med varnostjo in uporabnostjo, najdemo jih v komercialnih sistemih zasebnega sektorja, kjer odpirajo nove možnosti oglaševanja, varovanja, nakupovanja, so v velikih sistemih državnega varnostnega aparata, kjer predstavljajo natančnejše orodje za preganjanje kriminala in terorizma.

Navdušenje ima več virov. Najpogosteje se za implementacijo takšnih sistemov lastniki odločijo, ker je sistem enostaven za uporabo in uporabnik ne potrebuje posebnih znanj ali veščin. Poleg enostavnosti je tukaj ključna tudi hitrost – prepoznavanje obrazov je v današnjih sistemih hitro, kar je spet voda na mlin uporabnosti, svetemu gralu informacijske tehnologije.

Vedno glasnejša so tudi opozorila zagovornikov zasebnosti v informacijski dobi. Ta se osredotočajo tako na problematičnost podatkovnih zbirk z biometričnimi podatki kot na možnosti zlorabe in težkih posledic napačnega prepoznavanja obrazov ter problema vseprisotnosti takšnih sistemov, ki se jim v določenih okoljih skorajda ni mogoče več izogniti.

Stvar ameriške državne varnosti

A če bi človek prepoznavanje obrazov povezal predvsem z znanstveno fantastiko, so prva načela in tehnologije nastali v laboratorijih skupine The King-Hurley Research Group v Združenih državah Amerike.

Skupina raziskovalcev je takrat pod vodstvom dr. Woodrowa Wilsona Bledsoeja objavila »Predlog študije za ugotovitev možnosti izuma stroja za poenostavljeno prepoznavanje obraza«, v katerem je zastavila osnovna izhodišča te tehnologije.

Razlog za študijo? Želja po vzpostavitvi sistema, s katerim bi ameriške oblasti lovile mejne prebežnike. Plačnik? Ameriška obveščevalna služba CIA. Ta je leta 2014 zavrnila zahtevek za dostop do informacij javnega značaja, s katerim so hoteli novinarji pridobiti celotno študijo, saj naj bi bili ti podatki del državne varnosti.

Študija je predpostavljala, da bi sistem za prepoznavanje obraza deloval na načelu mreže, na kateri bi določili identifikacijske točke, s katerimi bi zarisali glavne poteze posameznega obraza, nato pa bi sistem te točke iskal na novem obrazu. Če bi se točke ujemale, bi sistem ugotovil, da je obraz identičen.

Pristop so nato nadgrajevali z dodajanjem novih prepoznavnih točk, ki so povečale natančnost in zmanjševale možnost napačne identifikacije, dokler niso v osemdesetih letih 20. stoletja začeli uvajati algoritemskega pristopa.

Razlika med izvorno idejo in algoritmom je bilo strojno učenje – sistemu za prepoznavanje obraza je bilo treba najprej dostaviti večjo količino fotografij obrazov, da je algoritem iz njih izračunal splošne lastnosti ter posamezna odstopanja.

Algoritemsko prepoznavanje so nato nadgradili s prepoznavanjem obrazov na neportretnih fotografijah, agencija DARPA (Defense Advanced Research Projects Agency) pa je v sodelovanju z institutom NIST (National Institute of Standards and Technology) začela spodbujati komercialno rabo.

Doktrina šoka

Ena od prvih večjih komercialnih rab je bila zaključna tekma prvenstva v ameriškem nogometu (Superbowl) januarja leta 2001, kjer je policija zvezne države New Orleans sistem uporabila na stadionu, kjer je hotela ujeti večje število ljudi s policijskim dosjejem.

Ljudje o tem niso bili obveščeni, oblasti pa so po protestu nevladnih organizacij pojasnile, da je preizkus spektakularno propadel, saj so z njim ujeli samo nedolžne obiskovalce tekme, ki jih je sistem napačno povezal z zločinci, ki naj bi imeli dosjeje . Ljudje so bili do tehnologije skeptični, oblasti so se morale opravičevati in splošno prepričanje je bilo, da tako invazivna tehnologija nikoli ne sme priti v splošno rabo.

Po 11. septembru je poraslo zanimanje vojaške industrije.

Prva študija sistema za prepoznavanje obrazov je bila projekt ameriške obveščevalne agencije CIA.

Le nekaj mesecev kasneje se je mnenje javnosti spremenilo. Zgodil se je namreč 11. september.

Tehnologija za prepoznavanje obraza je dobila nov zagon in javno odobravanje, saj jo je več varnostnih strokovnjakov in zagovornikov industrije izpostavljajo kot enega glavnih ukrepov za preprečevanje podobnih napadov.

S tehnologijo prepoznavanja obrazov naj bi teroriste prepoznali, še preden bi se lahko vkrcali na letalo, zato so je začeli vedno bolj množično uporabljati na letališčih in drugih javnih mestih ter pri delovanju varnostnoobveščevalnih agencij in policije.

Podatkovne zbirke: kot gobe po dežju

V desetih letih po 11. septembru so podatkovne zbirke z biometričnimi podatki v ZDA in drugod po svetu začele rasti kot gobe po dežju. Poleg oblasti, ki so jih uporabljale za preganjanje zločincev, se je prebudil tudi zasebni sektor informacijske družbe in začel ponujati storitve, ki so bile osnovane na prepoznavanju obraza.

Prvi problem – kje dobiti zadostno količino »učnega gradiva«, s katerim bodo lastniki programske opreme za prepoznavanje obrazov učili stroje?

Ameriška vojska je v devetdesetih letih 20. stoletja vzpostavila eno prvih zbirk za učenje ob pomoči svojega osebja, a portreti vojakinj in vojakov v fotografskem studiu so se hitro izkazali za neprimerne, saj so bile slike dobro osvetljene, posnete od blizu, osebe na slikah pa se niso premikale. Raziskovalci so si želeli zbirko, v kateri bi se nahajale slike ljudi v gibanju, z več šuma in drugimi napakami, ki bi jih lahko uporabili kot učno orodje.

Hkrati so se varnostnoobveščevalne agencije soočile z novim izzivom pridobivanja fotografij, saj je bilo zbiranje izredno drago, zbirali pa so jih posebej za to usposobljeni strokovnjaki ter profesionalni fotografi. Podatkovne zbirke so bile zato na začetku majhne, raznolikost fotografij pa je bila izredno skopa.

Podatkovna zbirka LFW je dolgo veljala za standard na področju učenja algoritmov.

Dokler se niso na splet preselili časopisi.

Prvi globalni standard podatkovne zbirke »obrazov v divjini« je tako nastal leta 2007 na fakulteti Amherst v zvezni državi Massachusetts. Raziskovalci so obraze pobirali s spletnih mest medijev, jih poimenovali ter shranili v učno podatkovno zbirko LFW (Labeled Faces In The Wild). Ta je bila dolgo časa aleksandrijska knjižnica za algoritemsko učenje, saj je vključevala veliko število učnega gradiva, ki ni bilo obremenjeno z avtorskimi pravicami uporabe.

A raziskovalci so kmalu naleteli na nov problem. Medijske fotografije spet niso dovolj »divje«, ljudje v večini primerov vedo, da jih bodo fotografirali, zato imajo obrazi specifično držo, manj je raznolikih izrazov.

Leta 2012 se je zato univerza v Koloradu odločila, da bo sestavila podatkovno zbirko fotografij študentk in študentov, ki jih bo posnela prek nadzornih kamer študentskega naselja. Brez njihove privolitve. V nasprotju z zbirko LFW se je univerza odločila, da bo zbirko sicer ponujala brezplačno – a samo ob dokazilu, da gre res za neodvisne raziskovalce.

Zbirke so v nekaterih primerih sestavljene iz še bolj problematičnih fotografij. Med drugim so preiskovalni novinarji ugotovili, da ameriška vlada zbirke za učenje strojnega vida sestavlja iz fotografij otroških žrtev pedofilske pornografije, fotografij mehiških prosilcev za ameriško vizo in fotografij mrtvih kriminalcev.

Danes je zadeva relativno enostavna – v svetu družabnih medijev lahko raziskovalci velike količine fotografij dobijo prek aplikacij družabnega spleta (Kateri znani osebnosti ste podobni?) oziroma aplikacij pametnih telefonov ali pa se poslužijo enega od mnogih spletišč, kamor uporabniki odlagajo svoje fotografije in dopuščajo njihovo pouporabo po sistemu ustvarjalne gmajne (creative commons).

Prihaja vsesplošna uporaba

Čeprav so medijsko najzanimivejše zlorabe biometričnih podatkov in čeprav se v popularni kulturi največkrat omenja družbo nadzora (do katere bomo še prišli!), je uporaba tehnologij prepoznavanja obrazov vseeno veliko širša.

Poleg lova na zločince tehnologijo prepoznavanja obrazov organi pregona uporabljajo tudi za iskanje pogrešanih in ugrabljenih oseb. Sistemi za prepoznavanje obrazov so na več mestih v uporabi namesto dokumentov za izkazovanje identitete, kar pohitri postopke legitimizacije.

Banke prepoznavanje obrazov vpeljujejo kot dodatno varnostno zaščito za potrjevanje finančnih transakcij, spletni trgovci pa s tehnologijo prepoznavanja obrazov omogočajo plačevanje nakupov. Sistem je povezan s pametnim telefonom, ki predstavlja dodatno plast zaščite.

V zdravstvu se analiza obrazov pojavlja kot eden od načinov zgodnjega zaznavanja bolezenskih stanj – v primeru redke genetske bolezni di georgeev sindrom je zaznavanje natančno do 96 odstotkov. Tehnologija za prepoznavanje obrazov služi kot pripomoček slepih in slabovidnih oseb – posebna aplikacija jih opozori na obrazno mimiko sogovornika, kar je slepim v veliko pomoč pri razlaganju tona izrečenih besed.

Šole na daljavo so začele programsko opremo za analiziranje obrazov uporabljati za merjenje pozornosti študentov, ki predavanja spremljajo prek računalnika – program analizira obraz in ob ugotovitvi, da študent spi, bere nekaj drugega oziroma ni pozoren, sproži alarm.

Med bolj zabavne uporabe spada tista iz Nebeškega templja v Pekingu. Upravitelji muzeja so z željo po preprečevanju pretirane rabe toaletnega papirja stranišča opremili z nadzornim sistemom prepoznavanja obraza, ki poskrbi za primerno količino toaletnega papirja, nato pa isti obraz naslednjič postreže šele po desetih minutah.

Omenili smo že družabna omrežja – prepoznavanje obrazov uporabljajo Facebook in hčerinski Instagram, Snapchat, Flickr. Čeprav gre večinoma za enostavnost uporabe in olajševanje uporabniške izkušnje pri označevanju oseb na fotografijah, smo že ugotovili, da se v ozadju skrivajo tudi bolj ozko usmerjenje uporabe.

Obraz je lahko tudi plačilna kartica.

Tudi oglaševalci se navdušujejo nad uporabo, kjer bodo posebni zasloni s kamerami analizirali obraze ljudi, ki stojijo pred njimi, in jim na podlagi analize ponudili prilagojene oglase. Trenutno poteka več pilotnih projektov, med drugim tudi na Tescovih bencinskih servisih. Na podoben način programsko opremo uporabljajo na križarkah, kjer potniki lahko fotografiranje potovanja zaupajo uradnemu fotografu, na koncu pa ob pomoči programske opreme za prepoznavanje obraza samodejno poiščejo vse svoje fotografije iz podatkovne zbirke križarke.

Kitajska: dežela tisočerih obrazov v eni podatkovni zbirki

Slišalo se bo kot kliše, a če je bil 11. september razlog za navdušenje nad tehnologijo varnostno-obveščevalne industrije, so bila razkritja Edwarda Snowdna tudi na področju tehnologije za prepoznavanje obrazov hladen tuš, ki je začel vedno bolj organizirano globalno gibanje za zasebnost v informacijski družbi.

Aktivisti in nevladne agencije so že od prvih preizkusov sistemov protestirale in opozarjale na morebitne zlorabe, a je ameriški gospodarsko-vojaški sistem pozive k varovalkam ignoriral do trenutka, ko je do podobnih idej prišla kitajska vlada.

Kitajski sistem prepoznavanja obrazov se je prav tako začel kot raziskovalni projekt na več kitajskih univerzah, ki so nato tehnologijo prek inštitutov komercializirale in prodale najboljšim ponudnikom – med drugim tudi vladnim varnostnim agencijam in oblastem.

Posla je na tem področju veliko, kitajsko zagonsko podjetje SenseTime je danes največje v tem segmentu globalnega trga, njegovo vrednost pa ocenjujejo na štiri milijarde evrov. Tudi njegov kitajski konkurent Megvii, vreden dve milijardi evrov, je pomemben globalni igralec, saj poseduje največjo odprtokodno zbirko za učenje algoritmov, Face++. Trenutno jo uporablja več kot tristo tisoč razvijalcev po vsem svetu.

Tehnologije prepoznavanja obrazov so vedno bolj prisotne na več javnih mestih.

Apetiti kitajskih oblasti so veliki – na voljo imajo domače tržišče z več kot milijardo obrazov, kjer lahko izvajajo preizkuse in uvajajo družbo nadzora ter preganjanja kriminala. Programska oprema jim omogoča analizo posameznikov, povezavo s policijskimi dosjeji in vedno večjo avtomatizacijo za preganjanje prekrškov – prehodi za pešce so opremljeni s kamerami, ki v primeru prečkanja pri rdeči luči identificirajo kršitelja, ga poiščejo v zbirki obrazov in mu na dom pošljejo plačilni nalog.

Tehnologijo prepoznavanja in analiziranja obrazov je Kitajska uporabila tudi za vpeljevanje robotskih televizijskih voditeljev, ki jih kitajske televizijske postaje uporabljajo v primerih udarnih novic – vseeno je, kje se takrat nahaja dejanski voditelj, saj ga lahko oponaša robot.

Na podoben način Kitajska uvaja sisteme obraznega prepoznavanja za preganjanje muslimanskih manjšin na zahodu države, kar je izzvalo mednarodno zgražanje in pozive po regulaciji te tehnologije. A se je po drugi strani spet pokazala moč kapitala, saj v kitajska zagonska podjetja na tem področju med drugim vlagajo Qualcomm, Nvidia, Honda in Daimler ter drugi, ki stavijo na razcvet tega področja v prihodnosti.

Pametno mesto: zasebnostna nočna mora

Razvoj tehnologije za prepoznavanje obraza v prihodnosti povezujejo s koncepti razvoja pametnih mest, ki delujejo na sistemu vseprisotnega nadzora. Sistemi, povezani v podatkovno zbirko, meščankam in meščanom omogočajo enostavnejšo uporabo javnih storitev, obljubljajo optimizacijo vzdrževanja mestne infrastrukture in boljše počutje. Na drugi strani pa so vedno glasnejša opozorila, da se bodo sanje pametnega mesta hitro spremenile v zasebnostno nočno moro, saj bo moral meščan v imenu uporabnosti in hitrosti delovanja žrtvovati svojo zasebnost ter svoje biometrične podatke zapisati v podatkovne zbirke, iz katerih se bodo napajali sistemi.

Prve razpoke, ki napovedujejo zasebnostno katastrofo, se že kažejo. Marca 2019 je kitajsko podjetje SenseNets Technology, ki s kitajskimi oblastmi sodeluje predvsem na področju pregona kriminala, na spletu pozabilo zavarovati podatkovno zbirko z biometričnimi podatki več kot dva milijona in pol kitajskih državljank in državljanov. Zbirka je bila na spletu prosto dostopna brez kakršnekoli zaščite.

Istega meseca so isti raziskovalci odkrili drugo nezavarovano zbirko kitajskih oblasti, v kateri so se znašli biometrični podatki dveh milijonov Kitajk – namen zbirke je bil vodenje sistema za reševanje demografskega problema. V njej so se tako znašle ženske z najboljšim potencialom za rojevanje otrok.

Končno so raziskovalci maja 2019 na spletu našli podatkovno zbirko z biometričnimi podatki, ki jih je velikan Alibaba zbiral kot del projekta pametnega mesta City brain, kjer so bili ti podatki uparjeni z geografskimi lokacijami posameznikov na časovni premici več mesecev.

A mokre sanje nadzora niso omejene samo na Kitajsko. Več ameriških mest, med drugim tudi Detroit in Chicago, hiti uvajati mestne nadzorne sisteme kamer z možnostjo prepoznavanja obraza, pred nekaj mesecih pa je nevladna organizacija Share Foundation opozorila na pogodbo med glavnim mestom Srbije in kitajskim velikanom Huawei, ki mu Beograd dovoljuje namestitev sistema videonadzora v tem mestu.

Je etika nova žrtev industrije?

Vedno glasnejši so tudi pozivi po etičnem premisleku vpeljevanja takšnih nadzornih sistemov, ki prihajajo z različnih koncev. Pred meseci je razburil poziv delničarjev Amazona, ki so na skupščinsko glasovanje podali predlog o popolni prepovedi prodaje sistemov za prepoznavanje obrazov. Predlog ni dobil potrebne večine, prodaja tehnologije se tako nadaljuje.

Ameriška zvezna policija (FBI) se je morala pred vladnimi nadzornimi organi junija 2019 zagovarjati zaradi varovalk, s katerimi varuje podatkovno zbirko obrazov z več kot 641 milijoni fotografij, saj je pred tremi leti podala obljubo o vdelavi posebnih varovalk, ki pa jih do zdaj še ni ustrezno implementirala.

Tudi v Veliki Britaniji se je konec maja 2019 začel sodni proces, v katerem je državljan tožil britansko policijo zaradi vdora v zasebnost. Policija namreč pilotno uporablja sistem za prepoznavanje obrazov, tožniki pa opozarjajo, da je ta deloval samo v devetih odstotkih vseh uporabljenih primerov.

Lokalne oblasti mesta San Francisco so prve v Zveznih državah Amerike izglasovale zakon, s katerim so prepovedale uporabo tehnologije za prepoznavanje obrazov – tako v komercialne kot tudi v državne namene.

Tudi Microsoft se je postavil na okope in pozval ameriške oblasti k čimprejšnji zakonski ureditvi tega področja, nato pa prav v času pisanja tega članka izbrisal svojo podatkovno zbirko MS Celeb, ki je bila ena od najbolj priljubljenih in najstarejših podatkovnih zbirk za strojno učenje in v kateri se je nahajalo deset milijonov fotografij.

Protestniki proti Amazonu niso bili uspešni – delničarji namreč niso izglasovali prepovedi prodaje tehnologije za prepoznavanje obrazov.

A je treba biti pri nenadni poplavi družbeno odgovornega ravnanja ameriškega sektorja informacijske industrije previden. Kritiki namreč opozarjajo, da je prepoznavanje obrazov nova ameriško-kitajska fronta informacijske družbe, hkrati pa podjetja izkoriščajo vedno bolj popularno etiko razvoja informacijske družbe za marketinško krinko.

V primeru Microsofta mu lahko tako zaploskamo ob umiku podatkovne zbirke, a se navdušenje preneha v trenutku, ko opazimo, da se Microsoft povezuje z ameriškim trgovcem Kroger, s katerim razvija sistem usmerjenega oglaševanja, ki temelji prav na tehnologiji prepoznavanja obrazov.

A ne glede na to bi se morali odločevalci, državljanke in državljani ter nevladne organizacije resno posvetiti etičnim izzivom razvoja informacijske družbe, ki so prav na področju tehnologij prepoznavanja obrazov že (do) zdaj sprožili kar nekaj rdečih alarmov.

Od začetnih katastrof pri prepoznavanju temnopoltih uporabnikov, ki jih je programska oprema zamešala z opicami (Google) oziroma jih sploh ni zaznala, do spodletelih poskusov uspešnega zaznavanja obrazov in povezave z obrazi v podatkovni zbirki in do že prej omenjenega odtekanja podatkov iz nezaščitenih podatkovnih zbirk – vse to kaže na več kot očitno potrebo po resnem regulatornem pristopu, ki bo zavaroval uporabnike.

Kako regulirati tehnologijo prepoznavanja obrazov?

Biometrični podatki in tehnologije, med katere spada tudi prepoznavanje obraza, so že zajeti v Splošno uredbo EU o varstvu podatkov (GDPR), a bo zanimivo videti, kako se bodo posamezne države članice in regulatorji odzivali na kršitve v praksi.

Poleg industrijskega marketinškega zagovarjanja regulacije na tem področju na obeh straneh oceana potekajo resne razprave pravnih strokovnjakov, politikov in aktivistov, ki premišljujejo o načinih regulacije in izpostavljajo nujnost hitre reakcije, dokler je tehnologija še sveža in ni vseprisotna.

Hkrati je to eden glavnih problemov, saj se pravniki soočajo z izzivom pisanja zakonodaje, ki ne bo osnovana na praksah in bo tako zgrešila večino implementacij. Hkrati preveč zakonodajalsko popisujejo stanje, kar državljank in državljanov ne bo zavarovalo pred inovacijami tega področja.

Uspešna razrešitev regulatornega vprašanja bo tudi eden od ključnih dejavnikov, ki bo odločil, ali bo varna in smiselna uporaba tehnologije prepoznavanja obrazov prešla v resno splošno rabo ali bo ostala na ravni posameznih primerov znotraj posameznih strok.

Trenutno stanje, kjer je končni uporabnik prepuščen samo svoji iznajdljivosti, kjer se mora sam zavedati čisto vseh mogočih zlorab in dnevno odklanjati lete z določenimi letalskimi družbami, bivanje v določenih hotelih, poslovanje z določenimi bankami, nakupovanja v določenih trgovinah ... samo zato, ker so se odločili za vpeljevanje tehnologije prepoznavanja obraza, pri čemer pa ni jasno, na kakšen način varujejo te podatke, kako natančne so te tehnologije in ali potencialne prednosti odtehtajo konkretne možnosti zlorab, pač ni in ne sme biti vzdržno.

Dokler bo to področje prerešetano s problemi etično vprašljivih akterjev, pomanjkanja efektivnega nadzora in sankcioniranja kršiteljev ter splošnega nezaupanja v tehnologijo, se lahko zgodi, da bo končna splošna prepoved uporabe takšnih tehnologij še najboljši korak.