Strah pred umetno inteligenco

Javnost in akademske kroge je v zadnjih mesecih razburila razprava o tem, ali predstavlja umetna inteligenca nevarnost za človeštvo. Vprašanje, ki bi si ga predstavljali bolj ob gledanju znanstvenofantastičnega filma, je postalo resna tema, ko so svojo zaskrbljenost javno izpovedali priznani astrofizik Stephen Hawking, lastnik Tesla Motors, SpaceX in soustanovitelj PayPala, prodorni podjetnik Elon Musk, nazadnje pa še vsem znani Bill Gates.

Gre za dolgoročni, prvinski strah, ki izhaja iz današnjega razumevanja napredka tehnologij in morebitnih posledic, če pot razvoja skrene v napačno smer. Čeprav govorimo o potencialni ogroženosti generacij, ki bodo prišle šele precej za nami, razprava ni povsem neumestna in preuranjena.   

Najbrž se strinjamo, da smo ljudje edina živa bitja, ki smo sposobna z orodjem lastne izdelave uničiti celotno raso, morda kar ves svet. Naša preteklost je polna dokazov, da sveže izume najprej uporabimo, šele nato razmislimo o njihovih posledicah za svet. Lep zgled je področje atomske energije, ki jo danes obravnavamo precej bolj previdno kot v začetku in sredini prejšnjega stoletja. Preprosto povedano, ne gre nam povsem zaupati.

Način razmišljanja in ravnanja ljudi je najbrž nekaj, kar se ne bo nikoli zares spremenilo. Zato je nemara pravi čas, da se o problemih začenjamo pogovarjati, še preden zares povzročijo težave. Nihče od naštetih znanstvenikov in podjetnikov ne trdi, da je umetna inteligenca neposredna in bližnja nevarnost, a že zdaj lahko ocenimo, da to lahko postane. Po današnjih ocenah smo vsaj 50 do 100 let daleč od trenutka, ko bi nas umetna inteligenca lahko presegla in potencialno ogrozila.

Nihče tudi ne trdi, da se bo prihodnja umetna inteligenca nalašč obrnila proti človeštvu, kot stereotipno filmsko zlo, ki se obrne proti stvaritelju. Zaskrbljenost izhaja predvsem iz dejstva, da je kompleksne sisteme, kamor brez dvoma sodi umetna inteligenca, sila težko nadzorovati in peljati v želeno smer. Nepredvidene situacije pa lahko pripeljejo tudi do nevarnih situacij.

Za oceno verjetnosti takega dogajanja se nam ni treba podati v pretirano oddaljeno prihodnost. Današnjo povezanost računalnikov, ki ji pravimo internet, že lahko umestimo na ta seznam nevarnosti. Vsi smo zdaj že domala vsak dan priča razkritjem najrazličnejših napadov in vdorov. Obenem postaja naše življenje vse bolj odvisno od storitev, ki so tako ali drugače povezane z internetom. Ali nas je kaj strah, ker se to (za zdaj) dogaja le v navideznem, ne pa stvarnem svetu? Imamo za vse to rezervni načrt? Ali je internet sploh mogoče »ugasniti«?

Drugi zgled so nastajajoča osebna vozila, ki bodo kmalu znala voziti sama namesto človeškega voznika. Pravzaprav se je to že začelo dogajati, pa nihče ni zares ocenil morebitnih posledic. Kaj bi se zgodilo, če bi taka vozila, pri katerih je samodejna vožnja v celoti možna predvsem zaradi programske opreme, postala tarča internetnih napadov? Bi se znali zaščititi? Naj bo povsem jasno – samodejna vozila so povsem konkretna oblika umetne inteligence.

No, v resnici se bojimo trenutka, ko bi umetna inteligenca tako napredovala, da bi presegla umske sposobnosti ljudi (to morda ni tako daleč, kot si mislimo), predvsem pa bi bila sposobna samodejno odločati v imenu ljudi, namesto ljudi. Danes menimo, da to nikakor ni dobro. Ali pač?  

Mnoge znanstvenike je ta razprava, ta hip in v takem tonu, zelo presenetila. Nekateri celo menijo, da bi utegnile take razprave ugledih ljudi, celo znanstvenikov, močno ohromiti ali vsaj upočasniti razvoj umetne inteligence in odvrniti ljudi od tega, da bi to financirali. Seveda tudi to ni dobro.

Med vsemi tehnologijami lahko prav umetna inteligenca še kako koristi. Stvar je v tem, da je treba vzporedno z razvojem (ne pa naknadno) raziskovati morebitne učinke in po potrebi postavljati omejitve, varnostne in druge ukrepe, ki bi bili potrebni za dosego želenih ciljev.

Skupina znanstvenikov je zato strnila svoje znanje ter izkušnje in na osnovi teh skrbi ustanovila inštitut Prihodnost življenja (Future of Life, FLI), v okviru katerega bodo preučevali vpliv omenjenih tehnologij. Povezano s tem številni znanstveniki po svetu podpisujejo odprto pismo, v katerem pozivajo pristojne, pa tudi znanstveno skupnost v celoti, k ukrepanju.

Najbrž bo v prihodnjih letih še precej razprav na to temo. Zdi pa se mi, da so se začele dovolj zgodaj, nedvomno ne prezgodaj. Brez tega bi lahko hitro prišli v situacijo, v kateri bi se bistveno zmanjšale možnosti nadzora, predvsem zaradi nenasitne sle po zaslužku, uspehu, napredku.

Ali nas mora biti strah umetne inteligence? Ta hip v resnici nič bolj kot vsak dan, ko se usedemo za volan avtomobila. Zavedati se moramo potencialnih nevarnosti, postavljati in upoštevati pravila. Po drugi strani pa ne manj kot toliko, saj imamo pred očmi večinoma le pozitivne učinke, ki nas odvračajo od analize potencialno nevarnih situacij.

Ne nazadnje znajo psihologi potrditi, da je prav strah tisti, ki je človeštvu omogočil, da je preživelo do zdaj. Zato morda na take strahove ne smemo gledati … s strahom.