Nevarna tehnologija

Po službeni dolžnosti podjetjem predstavljam, kaj lahko počnejo z orodji umetne inteligence, poslušalci pa mi pogosto vračajo z opazkami, kako naj bi bila ta tehnologija slaba in nevarna za človeštvo.

Zgodovina je polna zgodb o tem, kako sta tehnologija in kakršenkoli drug napredek slaba in škodljiva za človeštvo. Grški filozof Sokrat se je, denimo, zmrdoval nad pisano besedo. V mislih ni imel zapisov na Instagramu ali Facebooku, a je trdil, da bodo ljudje zaradi pisane besede postali pozabljivi. Da ne bodo več uporabljali in s tem trenirali lastnega spomina, ampak bodo zaupali le še pisani besedi.

Ob izumu tiska so se pojavljali pomisleki, kako bo to povzročilo preobremenjenost z informacijami. Govorim o izumu iz 15. stoletja, čeprav bi lahko ta pomislek preslikali tudi v današnji dan. Pravzaprav se ideja o preobremenjenosti človeštva z informacijami pojavlja že ves čas obstoja človeštva.

Tudi ko so izumili prve gramofone, so se kresala mnenja o njihovi katastrofičnosti. Da bodo izginili pevski zbori, koncertov ne bo več. Nihče več da se ne bo učil glasbe ali petja, saj si bomo lahko zavrteli poljubno pesem kar, pomislite, doma!

Zabaven je zapis v neki ameriški reviji, kjer se je avtor pritoževal čez radio. Zapisal je, da radio »tako očara otroke, da so razvili navado deliti pozornost med monotonim opravljanjem šolskih nalog in privlačnim vzburjenjem zvočnika«. Otroci so namesto opravljanja domačih nalog raje poslušali radio. Vam je znano?

Nekoč davno je šlo celo tako daleč, da je New York Times kritiziral Thomasa Edisona, češ da je obseden z elektriko in pretirava z izumi.

Moja generacija je bila seveda pogubljena, ker smo preveč časa preživeli pred televizorji. Generacijo, ki je prišla takoj za menoj, je pogubil internet. S še mlajšimi vemo, da je križ, saj imajo družabna omrežja in telefone. Starci lahko, ne samo zavijajo z očmi, ampak to zdaj počno v živo pred celotnim svetovnim občinstvom.

Orodje je nevarno. Razmišljanje tudi. Knjige? Jasno. Gramofoni? Najbrž ne več. TV? Internet? Telefoni? Umetna inteligenca?

Seveda lahko vsako tehnološko novost uporabimo za dobro ali zlo. Pravzaprav vsako orodje, vsako novost. Nekatere lažje, druge težje. V tem trenutku se zdi, da bi lahko bila umetna inteligenca približno tak preboj, kot je bil internet pred 25 leti. Kaj se bo iz tega, kar danes imenujemo »umetna inteligenca«, izcimilo, ne vem, občutek pa imam, da precenjujemo vpliv teh orodij na kratki rok (govorim o naslednjih nekaj letih) in podcenjujemo učinek na dolgega (več kot deset let).

Grški možakar po imenu Sokrat se je že davno tega zmrdoval nad pisano besedo.

Seveda bodo ta orodja izkoristili tudi nepridipravi, pravzaprav jih izkoriščajo že zdaj. A to ne pomeni, da je zadeva a priori nevarna. To, da se bo umetna inteligenca zavedela sama sebe in zavzela svet, je še vedno le znanstvena fantastika. Govorim o možnosti uporabe v rokah ljudi. Ta orodja bodo nedvomno (tudi) zlorabljena. Enako, kot so zlorabljeni pisana beseda, radio, internet.

V tem trenutku smo res na začetku razumevanja, kaj početi s temi sistemi in kako jih upravljati. Na mojih predstavitvah vidim, da moram najprej razbliniti upe in razkriti, da tu ni ne inteligence in ne razumevanja. Šele nato se lahko pogovarjamo, kaj lahko z njimi počnemo in kje nam olajšajo delo.

Pred kratkim sem se pogovarjal s profesorico ene izmed naših fakultet, ki je povedala, da je začela od študentov dobivati veliko nalog, zelo očitno napisanih s ChatGPT. Pred 20 leti sem poznal nekaj ljudi, ki so služili s tem, da so pisali naloge za druge (tudi doktorske dizertacije!). Je to zdaj kaj drugače? Razen tega, da je ChatGPT cenejši, po vsej verjetnosti pa tudi slabši.

Če ChatGPT (ali katerikoli drugi umetnointeligenčni sistem) uspešno uporabljamo v tak namen, je napaka drugje. Denimo v profesorju, ki naloge sploh ni prebral, saj bi, če bi jo, morda celo dojel, kaj se dogaja. Ali pa bi do tega spoznanja prišel vsaj na ustnem izpitu, pa pač ni.

Menim, da umetna inteligenca sama po sebi ni slaba ali nevarna za človeštvo. Utegne pa biti nevarno nerazumevanje tovrstnih tehnologij, njihovega delovanja in uporabe.