Umetna inteligenca in zakonodaja

V ameriškem kongresu trenutno pretresajo več kot 120 zakonskih predlogov, povezanih z ureditvijo področja umetne inteligence (UI). Ti so precej raznoliki.

Scott J. Mulligan, MIT Technology Review

Eden govori o poglabljanju znanja o UI v javnih šolah, drugi zahteva, da bi razvijalci modelov razkrili, katero avtorsko gradivo uporabljajo za učenje modelov. Trije bi omejili samodejne klice UI, dva pa sta povezana z biološkim tveganjem zaradi nje. Obstaja celo predlog, da bi UI prepovedali samostojno proženje jedrskih izstrelkov.

Poplava predlogov dokazuje, kako obupno si kongres prizadeva držati korak z bliskovitim tehnološkim napredkom. »Vlada vzdušje izrednih razmer. Vsi si želijo urediti to področje, ker se razvija tako hitro in je izjemno pomembno za ameriško gospodarstvo,« je pojasnila Heather Vaughan, direktorica za komuniciranje v odboru za znanost, vesolje in tehnologijo v ameriškem predstavniškem domu.

Zaradi načel delovanja kongresa večina predlogov ne bo nikoli potrjena kot zakon, kljub temu pa njihovo pregledovanje odpira vpogled v zadeve, s katerimi se trenutno ubadajo politiki: kje se po njihovem mnenju skrivajo pasti, na kaj se osredotočajo posamezne stranke in kakšna je na splošno ameriška vizija glede UI in njene zakonske ureditve.

Sodelavci MIT Technology Review so zato ob podpori newyorškega neprofitnega središča za pravo Brennan Center for Justice, lastnika sledilnika za vse zakonske predloge v zvezi z UI, ki trenutno krožijo po različnih kongresnih odborih, preverili, ali se iz te zakonodajne zmešnjave lahko česa naučimo.

Nastaja vtis, kot da kongres poskuša vse v zvezi z UI urediti takoj. Presoja, kaj bo dejansko potrjeno, je lažja, če se poglobimo v tiste predloge, ki lepo napredujejo na poti, da postanejo zakon.

Predlog mora običajno potrditi eden od odborov oziroma manjših delovnih teles, preden zanj glasuje celoten kongres. Številni predlogi te stopnje ne preživijo, druge preprosto potrdijo in o njih nikoli več ne razpravljajo. To se dogaja, ker je na vsakem zasedanju predstavljenih ogromno predlogov in se vsem ne posvetijo v enaki meri. Če vodstvo stranke oceni, da predlog njenega člana morda ne bo dobil dovolj glasov, včasih dvigne roke od njega. Včasih pa predlagatelj – odvisno od sestave kongresa – potrebuje nekaj podpornikov iz nasprotne stranke. V trenutno močno polariziranem ameriškem političnem ozračju je to lahko izjemno zahtevna naloga.

V kongresu so že sprejemali zakone o UI. Leta 2020 je državni zakon o pobudah glede UI postal del zakona o obrambnem proračunu, saj so v njegovem okviru vlagali v tovrstne raziskave in zagotavljali podporo javnemu izobraževanju ter usposabljanju zaposlenih za delo z UI.

V ameriškem kongresu so zakone o UI sprejemali že leta 2020.

Nekateri sedanjih predlogov lepo prodirajo skozi sistem. Trgovinski odbor v senatu je konec julija poskrbel za sprejetje petih predlogov o UI, ki so se osredotočali na to, da bi novi ameriški inštitut za varnost UI pooblastili, naj organizira preizkusne platforme in pripravi prostovoljne smernice za modele UI. Drugi predlogi so se osredotočili na širše izobraževanje o UI, zagotavljanje javnih računskih virov za raziskave UI in kaznovanje objavljanja globokih pornografskih ponaredkov. Naslednji korak bi bil, da bi predloge uvrstili na kongresni koledar in nato o njih razpravljali, jih dopolnili in glasovali o njih.

»Ameriški inštitut za varno UI je kot ustanova s svojimi prostori in z nemotenim sodelovanjem med podjetji ter deležniki civilne družbe nekaj čudovitega. Točno to potrebujemo,« je navdušen Yacine Jernite, raziskovalec UI v Hugging Faceu.

Napredek s temi predlogi je nekaj pozitivnega, ocenjuje Varun Krovi, direktor akcijske fundacije za varno UI Center for AI Safety. »Če želijo Američani ohraniti glavno besedo pri razvijanju mednarodnih standardov za uporabo UI, morajo varnostna priporočila nadgraditi v zakone,« je poudaril. »Zagotoviti moramo, da bomo sprejeli predlog, ki predpisuje računalniške zmogljivosti za zagonska podjetja, majhna podjetja in znanstvenike, da bodo zrele za UI.«

Po zgledu senata je odbor za znanost, vesolje in tehnologijo v predstavniškem domu septembra sprejel še devet zakonskih predlogov v zvezi z UI. Novi zakoni obravnavajo temeljitejše izobraževanje o UI v šolah, državnemu inštitutu za standarde in tehnologijo nalagajo, da pripravi smernice za umetno inteligentne sisteme, in odpirajo vrata novim strokovnjakom za UI. Te predloge so izbrali, ker imajo konkretnejše cilje in ne bodo pogoreli v velikih ideoloških bitkah zaradi UI, je pojasnil Vaughan.

»Priprave na sprejetje predlogov so bile obsežne. Vzeli smo si veliko časa za zaslišanje članov in deležnikov. Za nami so leta zaslišanj in poročanj o dejstvih,« je povedala članica predstavniškega doma Haley Stevens, ena od demokratskih članov odbora.

Številni predlogi poudarjajo, da njihove smernice za panogo niso obvezujoče in da je cilj sodelovanje s podjetji, da bi zagotovili varen razvoj, namesto zavirali inovacije.

Eden od predlogov predstavniškega doma, ki govori o razvojnih praksah, inštitutu za standarde in tehnologijo nalaga, da pripravi priporočene smernice za uporabo in razvoj sistemov UI ter okvire za upravljanje tveganja, ki prav tako ne bi bili obvezni. Drugi predlog o napredku in zanesljivosti vsebuje nekaj podobnega in podpira razvoj najboljših prostovoljnih praks in tehničnih standardov za ocenjevanje sistemov UI.

Kongres bi utegnil navsezadnje postaviti skrajne meje, ki jih podjetja na področju UI ne bi smela prestopiti.

»Vsak predlog prispeva k varnemu, zanesljivemu in zaupanja vrednemu razvoju UI ob hkratnem spodbujanju rasti in napredka tehnologije z inovacijami in s ključnimi raziskavami ter z razvojem,« je v izjavi za javnost o zakonskih predlogah izpostavil predsednik odbora Frank Lucas.

»To ponazarja pristop, ki so ga ZDA izbrale za tehnološko politiko. Upamo, da bomo naredili korak naprej – od prostovoljnih dogovorov k zavezam in obveznostim,« je dodal Krovi.

Izogibanje obveznim določilom je stvar pragmatičnosti. »Republikanci večinoma ne podpirajo obveznih predpisov in na splošno takšnih predlogov ne podprejo, za to bi zelo težko dobili podporo,« je povedala Vaughanova. »Slišali smo pomisleke o zaviranju inovacij in takšnega pristopa si ne želimo.« Ko je MIT Technology Review postavil vprašanja o izvoru teh pomislekov, so jih pripisali neimenovani »tretji strani«.

Strahovi pred upočasnitvijo inovacij se ne pojavljajo le na republikanski strani. »Zame je najpomembnejše, da ZDA vzpostavljajo odločna pravila na mednarodnem prizorišču,« je zadovoljno povedala Stevensova. »Skrb vzbujajoče se mi zdi, da bi nas pri teh tehnoloških dosežkih lahko prehiteli akterji iz Kitajske komunistične stranke.«

Zakonske predloge vlagajo v obdobju, ko velika tehnološka podjetja dodatno stopnjujejo lobiranje za UI. »Lobisti so se znašli v zanimivi zadregi – njihovi direktorji govorijo, da želijo več predpisov v zvezi z UI, zato si ne morejo privoščiti, da bi odkrito spodkopavali vso zakonodajo o njej,« je razložil David Evan Harris, ki na kalifornijski univerzi v Berkeleyju predava o etiki UI. »Zakonom, ki jih ne poskušajo dejavno zminirati, poskušajo zmanjšati težo tako, da spreminjajo ubeseditev predloga, s čimer upoštevanje postane prostovoljno, izvajanje zakona pa nemogoče.«

»S prostovoljnimi zavezami se lahko ubadajo le največja podjetja,« je še dodal Jernite iz Hugging Facea. Včasih dvoumje, povezano s prostovoljnim upoštevanjem smernic, velikim podjetjem omogoča lansirati lastne razlage. »Če je nekaj prostovoljno, na primer, če podjetje napove, da bo razvilo sodobno tehnologijo za vodni žig, ne moremo vedeti, kaj naj bi pridevnik 'sodoben' sploh pomenil, saj ni povezan z ničimer konkretnim, kar je nujen pogoj, da ima neki predpis primerno veljavo.«

»Pogovori, kako urediti to področje, kako naj bi delovala metoda s korenčkom in palico, so zelo burni,« je povedala Stevensova. Namigovala je, da bi kongres utegnil navsezadnje postaviti skrajne meje, ki jih podjetja na področju UI ne bi smela prestopiti.

Omeniti je treba še nekaj drugih izstopajočih zanimivosti tega kupa zakonskih predlogov. Dve tretjini so jih vložili demokrati, kar ni preveč presenetljivo, saj nekateri republikanci v predstavniškem domu trdijo, da sploh nočejo predpisov o UI, ker bi smernice samo zavrle napredek.

Med temami prevladujejo znanost, tehnologija in komunikacije (28 odstotkov), trgovina (22 odstotkov), posodobitev poslovanja vlade (18 odstotkov) in državna varnost (9 odstotkov). Bolj malo pozornosti so deležni delovna sila in zaposlovanje (dva odstotka), varovanje okolja (odstotek), državljanske pravice, svoboščine in manjšinska vprašanja (prav tako le odstotek).

Manjša pozornost enakosti in manjšinam je postala tema na seji senata konec julija. Republikanski senator Ted Cruz je dodal amandma, ki izrecno prepoveduje kakršenkoli ukrep »za zagotavljanje vključenosti in enakosti v ustvarjanje, snovanje in razvijanje tehnologije«. Cruz je pojasnil, da bi zakonski ukrepi lahko upočasnili ameriški napredek pri UI, zato bi lahko država zaostala za Kitajsko.

Težava, ki utegne preseči strankarske razprtije, so globoki ponaredki.

V predstavniškem domu so se prav tako obotavljali z razpravo o zakonskih predlogih, s katerimi bi odpravljali pristranskost v modelih UI. »Noben od naših predlogov se ne ukvarja s tem, gre za eno izrazitejših ideoloških vprašanj, pri katerih se stvari ne premaknejo,« je komentirala Vaughanova.

Vodja demokratov v odboru, Zoe Lofgren, je za MIT Technology Review povedala: »Če je kdo od republikanskih kolegov res tako komentiral pristranskost v sistemih UI, me to preseneča in žalosti. Ne smemo trpeti načrtnega, namernega razlikovanja, enako kot ne smemo trpeti razlikovanja zaradi pristranskosti UI. Sploh ne razumem, da lahko kdo nasprotuje ukrepanju proti temu.«

Vaughanova je po objavi svoje izjave pojasnila, da je pristranskost eno zahtevnejših in obsežnejših vprašanj, medtem ko je bolj specifične, praktične predloge lažje in hitreje obravnavati, kar pa ne pomeni, da je njej in njenim kolegom vseeno za pristranskost. Pričakuje, da se bodo tega vprašanja dotaknili v naslednjem poročilu posebne delovne skupine predstavniškega doma.

Težava, ki utegne preseči strankarske razprtije, so globoki ponaredki. Sovlagatelja zakonskega predloga o njih sta namreč demokratska senatorka Amy Klobuchar in republikanski senator Josh Hawley. Globoke ponaredke so že zlorabili, na primer med volitvami, ko so ponaredili glas Joeja Bidna za telefonski klic, v katerem so nepridipravi državljane nagovarjali, naj ne gredo volit. Tehnologijo so zlorabili tudi za prirejanje pornografskih posnetkov z obrazi drugih ljudi, ne da bi ti za to vedeli in privolili v to.

»Prepričan sem, da ukrepanje proti takšnim zlorabam uživa večjo podporo obeh strank kot marsikatero drugo vprašanje,« je izjavil Daniel Weiner, direktor že omenjenega središča Brennan. »A treba bo še počakati, ali bo to zadostovalo tudi za preseganje bolj tradicionalnih ideoloških razkolov, ki se običajno pokažejo v zvezi s takšnimi vprašanji.«

Iz trenutnega kupa zakonskih predlogov še nobenega niso potrdili kot zakon, kar dokazuje, kako zahtevno je sprejemati predpise o novih tehnologijah, še posebej naprednih sistemov UI, ki jih nihče povsem ne razume. Že to, da kongres sploh beleži napredek pri tem, je presenetljivo.

»Kongres nikakor ne zanemarja teh vprašanj,« je poudarila Stevensova. »Ocenjujemo razmere, postavljamo prava vprašanja in sodelujemo s partnerji v administraciji Bidna in Harrisove, da bi čim bolj idealno želi prednosti nove tehnologije.«

Copyright 2024 Technology Review, distribucija Tribune Content Agency.