Gibanje za omejitev tehnologije prepoznavanja obraza
Pred komaj štirimi leti je gibanje za prepoved uporabe tehnologije za prepoznavo obraza v ameriški policiji uživalo široko podporo. Ob koncu leta 2020 so v približno 18 mestih sprejeli zakone, ki so policiji prepovedali uvajanje te tehnologije. Ameriški zakonodajalci so predlagali moratorij na uporabo prepoznave obraza v zvezni administraciji.
Tate Ryan-Mosley, MIT Technology Review
Odtlej je tem prizadevanjem pošel ves zalet. Leta 2021 so sprejeli pet prepovedi na lokalni ravni za policijo in zvezne organe, lani in letos pa še nobene, kaže podatkovna zbirka skupine Fight fort he Future, ki se zavzema za digitalne pravice. Nekaj lokalnih prepovedi so celo zrahljali in danes le še redki verjamejo, da bi v bližnji prihodnosti lahko sprejeli prepoved na zvezni ravni. In tako je uporaba te tehnologije le še globlje prodrla v vsakdanje življenje ljudi nasploh, saj ni pravne podlage za njeno omejevanje.
A v Massachusettsu tisti, ki zahtevajo, da se policiji omeji dostop do tehnologije za prepoznavanje obraza, lahko še upajo. V tej zvezni državi zakonodajalci trenutno pilijo dvostrankarski predlog zakona, s katerim bi omejili uporabo te tehnologije v policiji. Ne bodo je sicer povsem prepovedali, a jo bo smela uporabljati le tamkajšnja policija, ne pa vsi organi pregona.
Predlog, o katerem utegnejo že kmalu glasovati, je, kot kaže, kompromis, s katerim niso zadovoljni niti policija, ki želi več svobode pri prepoznavi obraza, niti aktivisti, ki zahtevajo popolno prepoved. Kljub temu pa pomeni preverjanje splošnega mnenja o policijski uporabi teh spornih orodij.
Pri zakonski ureditvi prepoznave obraza skoraj ni zvezne države, ki bi imela takšno težo kot Massachusetts. Tam velja več občinskih prepovedi v zvezi s tehnologijo kot v katerikoli drugi zvezni državi, zato slovi kot epicenter zagovornikov državljanskih svoboščin, akademikov in tehnoloških družb. Za gibanje, ki mora nujno doseči prelomno točko, bo veliko odvisno ravno od tega, ali bodo ta zakon sprejeli.
V Združenih državah Amerike so se pravila o uporabi prepoznave obraza v policiji znašla v slepi ulici. Če bi jim v pomembni državi, kot je Massachusetts, uspelo sprejeti svoj zakon, bi to lahko napovedalo novo obdobje kompromisov. Ta zakon bi hkrati predstavljal eno strožjih zakonodaj v državi in bi lahko postal merilo za ureditev prepoznave obraza tudi drugje.
Po drugi strani pa, če bodo s sprejetjem zavlačevali ali zakon celo zavrnili, bo to le še en znak, da gibanje usiha in da so v državi pomembnejša druga vprašanja.
Zgodovina zagovorništva
Zagovorniki varovanja zasebnosti in javne interesne skupine že dolgo izražajo pomisleke o invazivnosti prepoznave obraza, ki je ključno orodje v vse večjem naboru visokotehnoloških orodij za policijski nadzor. Številni pomisleki so povezani z zasebnostjo in prepoznava na podlagi snemanja v živo velja za kočljivejšo od naknadne prepoznave na podlagi fotografij, saj ljudem lahko sledi v realnem času.
Ti pomisleki so eksploziven vrhunec dosegli leta 2018, ko so na trgu predstavili nov, do zasebnosti neuvideven izdelek majhnega podjetja Clearview AI.
Njegova zmogljiva tehnologija je korenito spremenila tako varovanje zasebnosti kot policijsko delo v ZDA. Podjetje je potihoma stotinam uradnih teles in agencij po vsej državi dalo na razpolago brezplačni poskusni program. Nenadoma so policisti lahko hitro prečesali veliko več fotografij, kot so jim kadarkoli sploh bile dostopne – na milijarde javno objavljenih fotografij na internetu.
Istega leta so se začeli kopičiti dokazi, da je zanesljivost prepoznave obraza odvisna od rase in spola. Prelomna raziskava avtoric Joy Buolamwini in Timnit Gebru z massachusetskega tehnološkega inštituta z naslovom Gender Shades (Sence spola) je pokazala, da je tehnologija veliko manj natančna pri prepoznavanju nebelcev in žensk ne glede na barvo kože kot belcev.
Ameriška vlada je leta 2019 to ugotovitev potrdila z raziskavo Državnega inštituta za znanost in tehnologijo – številni komercialni algoritmi za prepoznavo obraza so bili od deset- do stokrat manj natančni pri prepoznavi azijskih in temnopoltih obrazov kot svetlopoltih.
Politiki so se začeli zavedati nevarnosti in maja 2019 je San Francisco postal prvo ameriško mesto, ki je policiji prepovedalo uporabo takšnih programov. Mesec dni pozneje je Ameriška zveza za državljanske svoboščine (ACLU) v Massachusettsu napovedala začetek pomembne kampanje z imenom Press Pause (Pritisni pavzo), v kateri so pozvali k začasni prepovedi uporabe te tehnologije v mestih po vsej državi. Somerville je tako postal drugo ameriško mesto, ki je prepovedalo prepoznavo obraza.
V naslednjem letu so še v šestih massachusetskih mestih, med drugim v Bostonu, Cambridgeu in Springfieldu, odobrili prepoved za policijo in oblasti. Nekatera mesta so se tako odločila celo brez prisile in v Bostonu je policija v izjavi ob začetku prepovedi pojasnila, da te tehnologije tako in tako ne uporablja. Velika tehnološka podjetja, tudi Amazon, Microsoft in IBM, so jo umaknila iz prodaje in zagovorniki državljanskih svoboščin so zahtevali, da bi prepoved veljala za policijo v vseh ZDA.
»Vsi prebivalci Massachusettsa zaslužijo takšno zaščito. Napočil je trenutek, da zakonodajalci pritisnejo na pavzo in sprejmejo moratorij na uporabo prepoznave obraza vsem vladnim službam in agencijam,« je v izjavi junija 2020, potem ko je Boston potrdil prepoved, povedala Carol Rose, direktorica ACLU.
A do tega moratorija ni prišlo.
Je vaš obraz vaša stvar?
Sprva so bili prodornejši podporniki vsedržavne prepovedi. Umor Georgea Floyda v Minneapolisu maja 2020 je pretresel državo in okrepil ogorčenje javnosti zaradi zlorab v policiji. V iskanju nečesa otipljivega, česar bi se lahko lotili, so se aktivisti tako na lokalni kot državni ravni osredotočili na prepoznavo obraza.
Na začetku decembra 2020 so tako v Massachusettsu sprejeli zakon, ki bi dramatično omejil uporabo prepoznave obraza, vendar ga guverner Charlie Baker ni želel podpisati, ker naj bi policijo preveč omejeval. Poudaril je, da takšne prepovedi ne bo nikoli uzakonil.
Zakonodajalci so zato čez nekaj tednov sprejeli omiljeno različico. Kljub vsemu je šlo za prelomen dosežek, s katerim so večino uradnih agencij v tej zvezni državi omejili pri uporabi te tehnologije. Ustanovili so tudi komisijo, katere naloga je bila premotriti še druge zakone o prepoznavi obraza. Komisija je med drugim vključevala predstavnike državne in bostonske policije, massachusetsko zvezo policijskih načelnikov, ACLU, več akademikov, oddelek za javno varnost in več predstavnikov obeh političnih strank.
Organi kazenskega pregona v državi so tako imeli dostop le do sistemov za prepoznavo obraza v lasti in upravljanju registra motornih vozil, državne policije in FBI. Sklop fotografij, po katerih je lahko brskala policija, je bil zato veliko bolj omejen od podatkovne zbirke, ki je na voljo v sistemih, kot je Clearviewjev, prek katerega imajo uporabniki dostop do vseh javnih fotografij na internetu.
Preden se je policija lahko pognala na lov za fotografijo, je morala oddati pisno prošnjo in pridobiti sodni nalog. To je resda manj od naloga za aretacijo, a pred tem so preprosto po elektronski pošti poslali fotografijo in zaprosili za iskanje osumljencev v primerih različnih prekrškov ter kaznivih dejanj, kot so goljufija, vlom in kraja istovetnosti.
Kritikom se je takrat zdelo, da je zakon pomanjkljiv. »Sprejeli so nekaj uvodnih predpisov, ki pa niti slučajni niso zadostovali. Kljub temu so pomenili izboljšanje v primerjavi s statusom quo brez vsakršne regulacije,« je komentirala članica komisije Kade Crockford kot predstavnica ACLU.
Kljub vsemu so se prizadevanja za vsedržavno prepoved stopnjevala. Ko je komisija junija 2021 ravno začela svoja srečanja, so massachusetski senator Ed Markey in sedem drugih kongresnikov predstavili zakonski osnutek za prepoved uporabe tehnologije za prepoznavo obraza v zveznih vladnih agencijah, vključno z organi pregona. Vsi sodelujoči so bili politično levo usmerjeni, vendar sta strožjo zakonodajo takrat podpirali obe stranki.
Kot piše na spletni strani, se je massachusetska komisija leto dni redno srečevala, da bi sestavila priporočila za zakonodajalce o nadaljnjih pravnih omejitvah.
Med razpravo so predstavniki policije trdili, da je tehnologija ključna za sodobno opravljanje njihovih nalog.
»Številni predstavniki organov pregona so nenehno izpostavljali, da si ne želijo imeti zavezanih rok, če bi se zgodilo kaj res hudega, na primer teroristični napad ali drugo skrajno nasilje,« je v intervjuju za MIT Technology Review komentiral Jamie Eldridge, massachusetski senator in sopredsednik komisije.
Kljub lobiranju je komisija marca 2022 glasovala za izdajo strogih priporočil o uporabi prepoznave obraza. Predlagala je, da bi podatkovno zbirko za iskanje obrazov med preiskavo kaznivega dejanja smela uporabljati le državna policija, če bi za to pridobila sodni nalog. Policija bi lahko tudi zaprosila FBI, da opravi iskanje obraza.
Od 21 članov komisije jih je 15 podprlo priporočila, med njimi tudi Crockfordova. Dva sta se vzdržala, štirje so glasovali proti. Večina predstavnikov policije v komisiji je predloge prav tako zavrnila.
Eden od njih, načelnik policije v Norwoodu William Brooks, je za MIT Technology Review povedal, da se ne more strinjati s tremi pomembnimi priporočili: z obveznim nalogom za preiskavo, omejitvijo uporabe tehnologije le za kazniva dejanja in omejitvijo iskanja na podatkovni zbirki RMV ter FBI.
Brooks je povedal, da zahteva po nalogu za preiskavo ni logična in ne bi nikogar zaščitila, saj je po zakonu za prepoznavo obraza tako in tako potreben sodni nalog.
»Nalog za preiskavo se pridobi, ko policija želi preiskati prostor, v katerem oseba pričakuje zasebnost. A ni govora o tem, temveč o njihovem obrazu,« je pojasnil.
Predstavniki drugih skupin in drugi člani komisije, tudi predstavnik massachusetskega urada za javno varnost, zveza bostonskih patruljnih policistov in policijska postaja v Gloucestru se niso odzvali na prošnje za komentar.
Nezadovoljivi kompromis
Po letih razprav in kompromisov so julija 2022 priporočila massachusetske komisije strnili v amandmaju, ki so ga že sprejeli v predstavniškem domu in o katerem bi že kmalu utegnili glasovati tudi v državnem senatu.
Ta osnutek v nekaterih primerih omogoča iskanje ujemanja, s katerim retroaktivno prepoznajo obraz tako, da ga poiščejo v podatkovni zbirki fotografij. Prepoveduje pa dva druga tipa prepoznave obraza, in sicer nadzorovanje obrazov, s katerim obraz prepoznajo na posnetkih, in prepoznavo čustev, s katero različnim izrazom poskušajo pripisati čustva.
Ta bolj diskretni pristop spominja na pot, ki so jo ubrali evropski zakonodajalci, ko so ocenjevali uporabo umetne inteligence v javnem prostoru. Sistem se opira na stopnje tveganja: čim večje je tveganje, povezano z neko tehnologije, tem strožji so zakoni. V skladu s predlaganim evropskim zakonom o umetni inteligenci, na primer, bi prepoznavo obraza v živo na sistemih videonadzora na javnih krajih obravnavali strožje kot v primeru bolj omejene, naknadne uporabe, kot je iskanje podobe med preiskovanjem pogrešanega otroka.
Eldrige pričakuje, da se bodo tožilstva in organi pregona uprli, kljub temu pa je previdno optimističen, da bodo zakon vendarle sprejeli. Dodal je še, da so številna tehnološka podjetja lobirala med zaslišanji komisije, češ da je tehnologija natančna in nepristranska, opozoril pa je tudi na slabše poslovanje panoge, če bodo omejitve obveljale. Hoan Ton-That, direktor Clearviewa, je v pisnem pričevanju komisiji pojasnil, da nepristranski algoritem njegovega podjetja natančno poišče obraz izmed več kot tremi milijardami podob, ki jih je zbral na javnem spletu.
Crockfordova in Elridge upata, da bodo o zakonu glasovali v tem mandatnem obdobju, ki se konča julija prihodnje leto, vendar ga za zdaj še ni na urniku. V Massachusettsu tako kot povsod drugje večjo pozornost uživajo druge pomembne teme, kot so zakoni v zvezi z gospodarstvom in izobraževanjem.
Kakorkoli že, zakonski predlog že odmeva in v Montani so sprejeli zakon, ki povzema nekaj zahtev v Massachusettsu. Montana bo tako policiji onemogočila prepoznavanje obraza na posnetkih in zahtevala sodni nalog za iskanje ujemanja obraza.
Prava cena kompromisa
Navdušenja nad massachusetskimi merili ne delijo vsi in policija predlogu nasprotuje. Nekateri aktivisti menijo, da takšni zakoni ne zadostujejo – in velikopoteznih zakonov o prepoznavi obraza na vseameriški ravni, ki so jih nekateri pričakovali že leta 2020, niso sprejeli.
Kaj se je zgodilo med 2020 in 2023? V teh treh letih, ko so v Massachusettsu razpravljali, lobirali in pisali osnutke, so na vsedržavni ravni spremenili temo in s policijske reforme prešli na naraščanje kaznivih dejanj, kar je bila zanka okrog vratu politiki. Ker se je javno mnenje obrnilo na glavo, je prepoznava obraza postala adut v rokavu politikov, policije, tehnoloških podjetij in zagovornikov. Morda je vlogo odigralo tudi to, da smo se navadili na to tehnologijo v vsakdanjem življenju in na javnih krajih.
Ameriški organi pregona so vse glasnejši, ko gre za pomen prepoznave obraza pri njihovem delu. V Austinu v zvezni državi Teksas, na primer, kjer so tehnologijo prepovedali, si policijski načelnik Joseph Chacon želi, da bi si smel pomagati z njo, saj mu manjka osebja, je povedal v intervjuju za MIT Technology Review.
Nekateri aktivisti, kot je Caitlin Seeley George, direktorica kampanj in poslovanja pri neprofitni organizaciji Fight fort he Future, pravijo, da policija po vsej državi uporablja podobne argumente, da bi omilila prepoved prepoznave obraza.
»Poudarjanje povečanja kaznivih dejanj, da bi utišali gibanje za zmanjšanje financiranja, se uporablja tudi za zatiranje prizadevanj, da bi nehali uporabljati tehnologije, ki naj bi lajšale delo zaradi domnevno neugodnejše policijske statistike,« je povedala.
Prepoved prepoznave obraza v določenih pogojih in celo zvezni predpisi bodo morda spet tema pogajanj, saj se zakonodajalci zdaj spopadajo tudi z nedavnimi dosežki pri umetni inteligenci, ki so v javnosti povzročili pravo vročico. Marca je senator Markey s kolegi vnovič obudil predlog za omejevanje prepoznave obraza na zvezni ravni.
A nekatere zagovorniške skupine še vedno nasprotujejo kakršnemukoli kompromisu, kot je rahljanje zakonskega predloga v Montani in Massachusettsu.
»Menimo, da zagovarjanje in podpiranje takšnih predlogov dejansko onemogočata korak naprej na poti k prepovedi,« je poudarila Caitlin Seeley George. »Kot lahko vidimo, predpisi ne preprečujejo pretirane uporabe in ne storimo dovolj za omejevanje.«
Crockfordova si želi, da bi bila prepoved politično mogoča: »ACLU si seveda želi, da bi to tehnologijo popolnoma prepovedali, a razumemo … Menimo, da je to zelo zelo kompromisen in zdravorazumski nabor predpisov.«
Nekateri strokovnjaki izpostavljajo, da je brezkompromisnost nekaterih aktivistov vsaj delno odgovorna, da še ni predpisov, ki bi omejevali prepoznavo obraza. Andrew Guthrie Ferguson, predavatelj prava na pravni fakulteti pri Ameriški univerzi v Washingtonu, pravi, da je nasprotovanje popolni prepovedi precej odločno, zato se je uporaba tehnologije precej razširila brez ustreznih varovalk in omejitev.
Aktivisti, ki zahtevajo popolno odpravo prepoznave obraza, se bojijo, da bi s predpisi to tehnologijo legitimirali, a ker ni dogovora niti o temeljnih načelih uporabe, ni niti predpisov, ki bi lahko bili koristni. Medtem pa se je tehnologija vsem razpravam navkljub le še razširila in nadgradila.
Ferguson je v pismu MIT Technology Review napisal: »Nezmožnost skleniti kompromis o predpisih, ker ena stran ne odstopa od zlatega standarda prepovedi, druga pa hoče večje pristojnosti policije, pač zahteva svoj davek.«
Copyright Technology Review, distribucija Tribune Content Agency.