Poziv strokovnjakov: ustavitev razvoj umetne inteligence za šest mesecev
Večina pomembnih igralcev na področju umetne inteligence in velikih jezikovnih modelov, kakršna sta ChatGPT in Chat Bing, je podpisala odprto pismo, v katerem pozivajo k takojšnjemu šestmesečnemu moratoriju na razvoj umetne inteligence. Svarijo pred nepredvidenimi posledicami umetne inteligence, ki bi lahko pomembno vplivale na življenje in družbo.
Odprto pismo ima že več kot 1500 podpisnikov, med katerimi so tudi Elon Musk iz Tesle, Applov soustanovitelj Steve Wozniak, več raziskovalcev iz DeepMinda in drugi. V njem opozarjajo, da bodo imeli modeli, ki so zmogljivejši od GPT-4, težko predvidljive učinke. Taki sistemi lahko družbo zasujejo z neresnicami, propagando, odpravijo večino kreativnih služb in sčasoma zamenjavo človeško inteligenco. Poudarjajo, da mora razvoj potekati ob zavedanju nevarnosti in s trdnimi varovalkami, ki jih ta hip tenutno vsi razvijajo po mili volji.
Zato želijo vsaj polletni odmor, ko bi se vzpostavili varnostni mehanizmi, kontrole in smernice, kako razvijati. V tem času bi morala biti zaustavitev razvoja preverljiva in javna, strokovnjaki pa bi se posvetili varnosti. Posebno nevarnost predstavljajo nejasni modeli (black box), ki preprosto delujejo, nihče pa jih prav dobro ne razume. Če prostovoljne prekinitve ne bo, pozivajo k ukrepanju oblasti.
Pisma ni podpisal OpenAI niti ga niso uradno komentirali. Sprememb pa tako ali tako ni pričakovati. Besedilo je preveč površinsko, da bi imelo kakšne resne učinke. Hkrati pa je že sedaj znano, da ima umetna inteligenca številne predsodke, da širi diskriminacijo in neenakost, ker se pač uči iz človeških stvaritev, ki odražajo táko družbo. To so resnične težave, ki jih moramo reševati, ne pa se bati lastne sence. Orodja pač prihajajo že celo zgodovino in prepovedi niso ustavile še nobenega.
