Bodo uradnike nadomestili pametni algoritmi?

Na Unescovem globalnem forumu o etiki v umetni inteligenci, ki se je v začetku februarja odvil v Sloveniji, smo lahko prisluhnili več govorkam in govorcem z vsega sveta, ki so problematizirali hitro širjenje uporabe strojnega učenja, algoritmov in umetne inteligence v praktično vseh sferah (zahodnega) družbenega življenja ter hkrati opozarjali, da gre pri umetni inteligenci za dejstvo, s katerim se bomo hočeš nočeš morali sprijazniti in se čim prej privaditi nanj.

Umetna inteligenca je za zdaj v večini primerov še vedno rešitev, ki išče problem.

Na konferenci je bilo mogoče čutiti oblikovanje koalicije in opozicije na področju umetne inteligence, ki se je razvijala predvsem na liniji naravoslovcev in družboslovcev – prvi so navijali za čim hitrejšo popularizacijo rešitev umetne inteligence, drugi so svarili pred nevarnostmi za posameznika in družbo.

Umetna inteligenca in javni sektor

A če je pozornost javnosti trenutno še vedno vse preveč osredotočena na generativno umetno inteligenco in različne komercialne projekte pilotskega tipa, se je treba zavedati, da se umetna inteligenca že vrsto let tudi v Sloveniji uporablja za strokovne namene znotraj različnih organizacij javnega in zasebnega sektorja.

Slovenija je leta 2021 sprejela Nacionalni program spodbujanja razvoja in uporabe umetne inteligence

v Republiki Sloveniji do leta 2025, s katerim je zarisala smernice razvoja umetne inteligence in z njim popisala tudi stanje umetne inteligence v Sloveniji. Če sodimo po nacionalnem programu, se umetna inteligenca uporablja v več podjetjih zasebnega sektorja (pametna mesta, robotika, avtomatizacija delovnih procesov, obdelava videoposnetkov, slike in zvoka ...) ter znotraj akademskih ustanov (fakultete, inštituti) in javnega sektorja (ministrstva, druge podporne državne ustanove).

Kot eno od glavnih pomanjkljivosti na tem področju strategija omenja problem nesistematične in neusklajene uporabe rešitev umetne inteligence, zato smo se odločili preveriti, kje vse in na kakšen način slovenska vlada ter podporne službe danes uporabljajo rešitve umetne inteligence.

Tanki in traktorji umetne inteligence

Hiter pregled projektov slovenske javne uprave na področju umetne inteligence pokaže živo področje, kjer je vsak organ za zdaj bolj ali manj prepuščen samemu sebi. Rdeča nit večine projektov z implementiranimi rešitvami umetne inteligence v slovenski javni upravi je še vedno pomoč pri obdelovanju velike količine podatkov, manj pa je projektov, ki umetno inteligenco vpeljujejo v procese odločanja.

Ministrstva so uporabi umetne inteligence še relativno nenaklonjena, saj nam je deset ministrstev (Ministrstvo za pravosodje, Ministrstvo za notranje zadeve, Ministrstvo za zdravje, Ministrstvo za solidarno prihodnost, Ministrstvo za okolje, Ministrstvo za vzgojo, Ministrstvo za visoko šolstvo, Ministrstvo za infrastrukturo, Ministrstvo za naravne vire in Ministrstvo za kohezijo) od 19 odgovorilo, da rešitev umetne inteligence pri njih še niso v uporabi.

Bolj poglobljeno rabo lahko tako zasledimo na Ministrstvu za obrambo, ki se za uporabo umetne inteligence ogreva na več področjih. »Na Ministrstvu za obrambo je bila nedavno oblikovana Delovna skupina za področje umetne inteligence z namenom usklajenega delovanja in koordinacije dela na področju umetne inteligence znotraj ministrstva. Delovna skupina bo opredelila cilje in razvojno strategijo ministrstva na tem področju. Pripravlja tudi predloge sklepov in stališč z vidika obrambe in vojaškega delovanja v zvezi z dokumenti, ki se nanašajo na področje umetne inteligence,« so nam pojasnili na Ministrstvu. Dodali pa, da »v okviru ministrstva poteka tudi več raziskovalno-razvojnih in inovacijskih projektov, katerih namen je integracija in uporaba umetne inteligence v sisteme vojaškega situacijskega zavedanja, v simulacije in analize, v podporo operativnemu delovanju, na področju mednarodnega in nacionalnega prava, na področju kriznega upravljanja in vodenja ter na področju upravljanja in nadzora lastne telekomunikacijske in informacijske infrastrukture.«

Da danes umetna inteligenca rine že iz konzerv paštete, ni pretiravanje – ena od vodilnih prehrambnih blagovnih znamk je namreč že lani ustvarila promocijsko orodje za svoje proizvode, kjer si lahko uporabniki ob pomoči ChatGPT ustvarijo zgodbico za lahko noč.

Na Ministrstvu za kmetijstvo umetna inteligenca pomaga pri ocenjevanju primernosti vlog za kmetijske subvencije, nad katerimi bedi Agencija za kmetijske trge in razvoj podeželja. »Za vsako shemo pomoči pridobi informacije o vrstah pridelkov in kmetijski dejavnosti na vseh prijavljenih parcelah oz. kmetijskih gospodarstvih, z uporabo strojnega učenja ali drugih algoritmov, primernih za obdelavo večjih količin podatkov. Tako na primer oceni dejansko rabo tal in vrsto pridelka s pomočjo nevronskih mrež z dolgim kratkoročnim spominom, ki omogočajo avtomatsko klasifikacijo preko učenja modela na podatkih časovnih serij izbranih spektralnih pasov na prečiščenem vzorcu prijavljenih poljin in rab tal,« so nam razložili in dodali, da umetna inteligenca pomaga tudi pri »identifikaciji površin z izpostavljeno golo zemljo, ki so prisotne recimo po oranju ali žetvi. Tu je uporabljen LightGBM model, ki satelitske posnetke kmetijskih površin ovrednoti kot golo zemljo oz. kot vegetacijo, z naknadno obdelavo časovnih vrst pa je mogoče zelo dobro oceniti, kdaj je bila površina zorana ali požeta.«

Umetna inteligenca pomaga pri analizi kakovosti zemlje.

Več različnih rešitev umetne inteligence za spremljanje spletnih vsebin ter prepisovanje govorjenih vsebin najdemo pri več državnih organih. Tako se na Uradu vlade RS za komuniciranje uporablja storitev Event Registry, za prepisovanje zvočnih datotek pa rešitev Truebar, na Ministrstvu za digitalno preobrazbo za spremljanje objav v povezavi z Ministrstvom uporabljajo rešitev Determ, medtem ko na Ministrstvu za kulturo snujejo pilotni projekt zajema podatkov z več spletnih mest.

»Glavni cilj projekta je skrajšati postopek pridobivanja podatkov z različnih spletnih mest in nadomestiti proces pisanja oziroma razvijanja prilagojenih strgalnikov za posamezen spletni vir,« pojasnjujejo na Ministrstvu za kulturo in dodajajo, da bo »orodje moralo zagotoviti, da bi vire, ki ne ustrezajo standardom interoperabilnosti, lahko dodajale osebe z osnovnim znanjem uporabe računalnika. Orodje mora biti sposobno učenja oz. 'treniranja' na način, da se posamezni tipi struktur, ko so enkrat identificirani, samodejno aplicirajo na zajem z drugih spletnih virov, z identično zaledno strukturo.«

Na Ministrstvu za javno upravo se na področju vpeljevanja umetne inteligence v delovne procese osredotočajo na »pripravo kakovostnih podatkov in preko sodelovanja v omrežju skrbnikov tudi k pripravi podatkovne strategije ter ustreznega podatkovnega prostora, v katerem bomo lahko uporabili orodja generativne umetne inteligence«. S podobno tematiko se ukvarjajo tudi na Statističnemu uradu RS, kjer poskušajo s tehnikami strojnega učenja »avtomatizirati razvrščanja v standardne klasifikacije predvsem na področju cen in poklicev, na avtomatizacijo identificiranja objav prostih delovnih mest in pri uporabi satelitskih posnetkov pri opazovanju Zemlje. Manjšino modelov že uporabljamo kot del rednega delovnega procesa, več jih še izboljšujemo ali preizkušamo nove. Začeli smo tudi z raziskovanjem t.i. Large Language Models (LLM), kjer smo ravno pričeli s testiranjem različnih jezikovnih modelov z namenom lažje in boljše interpretacije podatkov ter razvoja pametnih asistentov.«

Umetna inteligenca je v pomoč uradnikom na Ministrstvu za delo, saj si z njo pomagajo pri sprejemanju odločitev na področju pravic do dodelitve različnih oblik socialne pomoči, kjer se nove odločitve sprejemajo tudi na podlagi podatkov iz prejšnjih odločanj, nad delom strojev pa bedijo uradniki.

Generativna umetna inteligenca na preizkušnji

Večina vprašanih iz slovenske javne uprave je na vprašanje o uporabi generativne umetne inteligence (ChatGPT, DALL-E in podobne rešitve) odgovorila, da so te rešitve njihovim zaposlenim na voljo, da jih uporabljajo za oblikovanje besedil, povzetkov in za iskanje dodatnih informacij s posameznih delovnih področij.

Tako Urad za informacijsko varnost pojasnjuje, da »rešitve generativne umetne inteligence (Chat GPT, DALL-E, MS Bing) uporabljamo pri vsakdanjem delu pri oblikovanju besedil, opomnikov, povzetkov, drugih tekstov in za lažji dostop do specifičnih tehničnih podatkov posamezne strojne in programske opreme«, na Ministrstvu za delo, družino in socialne zadeve pa rešitve generativne umetne inteligence uradniki uporabljajo po lastni presoji.

ChatGPT slovenski uradniki uporabljajo brez smernic in nadzora.

Tudi drugi državni organi na področju generativne umetne inteligence za zdaj še nimajo posebnih omejitev oziroma prepovedi, a hkrati tudi ne dobrih praks rabe oziroma koordinirane rabe. Večinoma se generativna umetna inteligenca uporablja za skrajšanje časa delovnih nalog oziroma za pridobivanje dodatnih informacij.

Največji kritiki uporabe umetne inteligence so trenutno na Ministrstvu za finance. »Uporaba orodij umetne inteligence pri delu zaposlenih na Ministrstvu za finance trenutno ni obsežno razširjena. Nekateri sodelavci takšnih orodij ne uporabljajo, nekateri pa so jih že preizkusili. Pri tem so ugotovili, da pri opravljanju zahtevnejših nalog trenutno takšna oblika pomoči ni zanesljiva,« opozarjajo.

»Primer za to je priprava mnenj in rešitev, ki morajo temeljiti na virih, ki so sicer javno objavljeni (slovenska in tuja zakonodaja, stališča slovenskih in tujih evropskih uradnih organov, sodišč, analize WHO, OECD, Evropske komisije in podobno), a jih pogovorni model za oblikovanje odgovorov ne uporablja,« pojasnjujejo in nadaljujejo, da ima umetna inteligenca trenutno velike težave »tudi pri reševanju kompleksnejših problemov, kjer pogovorni model ne ponudi zadovoljivih rešitev oziroma se je celo izkazalo, da so te napačne«. Po besedah predstavnika Ministrstva se »pojavlja tudi vprašanje varovanja podatkov, ki ga je treba zagotoviti pri našem delu«.