EU je dosegel okvirni dogovor o regulaciji umetne inteligence

Doseženi dogovor o pravilih uporabe predstavlja prvi celoviti poskus omejitve uporabe umetne inteligence na svetu. Začasni dogovor, ki je bil dosežen po maratonski 72-urni debati, morata zdaj potrditi še Evropski parlament in Svet EU.

Predlagane uredbe določajo pravila in načine za razvoj ter uporabo modelov strojnega učenja znotraj EU, kar bo vplivalo na uporabo umetne inteligence v bodočih aplikacijah, ki segajo od izobraževanja, do zaposlovanja in zdravstvenega varstva.

Namen te uredbe je zagotoviti, da so temeljne pravice, demokracija, pravna država in okoljska trajnost zaščiteni pred visokimi tveganji uporabe tehnologije umetne inteligence, hkrati pa želijo spodbujati inovacije, ki bi Evropo postavile na vodilno mesto na tem področju.

Pravila določajo obveznosti za umetno inteligenco glede na morebitna tveganja in stopnjo vpliva. Uporaba umetne inteligence bo po dogovoru razdeljena na štiri kategorije glede na to, koliko družbenega tveganja vsaka potencialno predstavlja – minimalno, omejeno, visoko in prepovedano.

Prepovedana uporaba vključuje vse aplikacije, ki zaobide voljo uporabnikov, ki ciljajo na zaščitene družbene skupine ali omogočajo biometrično sledenje v realnem času. Sem sodijo tudi razpoznava čustvenega stanja in avtomatizirano kategoriziranje ljudi na delovnem mestu in v izobraževanju. Prav tako so prepovedna aplikacije, ki izkoriščajo ranljivosti posameznikov, glede na starost, posebne potrebe, ekonomsko ali socialno stanje.

Uporaba z visokim tveganjem vključuje rešitve, ki predstavljajo varnostno komponento izdelka ali se uporabljajo v specifičnih aplikacijah, kot so kritična infrastruktura, izobraževanje, pravne/sodne zadeve in zaposlovanje. Najbolj priljubljena kategorija ta hip, pogovorni roboti, kot so ChatGPT, Bard in Bing, po definiciji dogovora sodijo v skupino z omejenim tveganjem.

Pogajalci so se ob tem dogovorili o vrsti zaščitnih ukrepov in ozkih izjem za uporabo biometričnih identifikacijskih sistemov (RBI) v javno dostopnih prostorih za namene kazenskega pregona, ob predhodnem sodnem dovoljenju in za strogo določene sezname kaznivih dejanj.

RBI, ki bo uporabljen v realnem času, bo moral izpolnjevati stroge pogoje, njegova uporaba pa bi bila časovno in lokacijsko omejena za namene, kot so iskanje žrtev, preprečevanje konkretne in prisotne teroristične grožnje ter lokalizacijo ali identifikacijo osebe, osumljene, da je storila eno od posebnih kaznivih dejanj.

Za sisteme umetne inteligence, ki so razvrščeni kot visoko tvegani so bile dogovorjene jasne obveznosti. Evropskim poslancem je uspelo med druge zahteve vključiti obvezno oceno učinka na temeljne pravice, ki velja tudi za zavarovalniški in bančni sektor. Sem sodijo tudi sistemi umetne inteligence, ki bi se lahko uporabljali za vplivanje na izid volitev in vedenje volivcev.

Državljani bodo imeli pravico do vložitve pritožb glede sistemov umetne inteligence in prejemanja pojasnil o odločitvah, ki temeljijo na sistemih umetne inteligence z visokim tveganjem in vplivajo na njihove pravice.

Da bi upoštevali širok spekter nalog, ki jih lahko sistemi umetne inteligence opravijo, in hitro razširitev njihovih zmogljivosti, je bilo dogovorjeno, da bodo sistemi umetne inteligence za splošne namene (GPAI - General Purpose AI) in modeli GPAI, na katerih temeljijo, morali upoštevati zahteve glede preglednosti. Ti vključujejo pripravo tehnične dokumentacije, skladnost z zakonodajo EU o avtorskih pravicah in širjenje podrobnih povzetkov o vsebini, ki se uporablja za usposabljanje.

Za modele GPAI bodo ponudniki morali izvesti ocene modelov, oceniti in ublažiti sistemska tveganja, izvesti testiranje kontradiktornosti, poročati Komisiji o resnih incidentih, zagotoviti kibernetsko varnost in poročati o energetski učinkovitosti. Dokler zakonodaja ne bo finalizirana, bodo morali modeli GPAI upoštevati dosedanje kodekse ravnanja.

Znane so tudi kazni za kršitve predlagani ukrepov. Neupoštevanje pravil lahko privede do kazni v razponu od 35 milijonov evrov ali 7 % svetovnega prometa do 7,5 milijona ali 1,5 % prometa, odvisno od kršitve in velikosti podjetja.