Kdo bo še pisal eseje?

OpenAI že vrsto let nadgrajuje orodja za ustvarjanje besedil (GPT), katerih izdelki so osupljivi. ChatGPT je orodje, ki je zasenčilo vse pretekle poskuse, saj ustvarja besedila v različnih jezikih sveta, ki nas zlahka pretentajo, da jih je napisal človek. Odgovori, ki so milozvočni, koherentni in večidel pravilni, v resnici porajajo čedalje več – vprašanj.

Nastanek ChatGPT lahko opišemo v treh korakih. Slika: OpenAI

Splet in zlasti družbena omrežja so v začetku decembra preplavila poročila, vtisi in rezultati umetne inteligence za ustvarjanje besedil ChatGPT. Dasiravno ni prvi, je doslej zagotovo najboljši umetni sogovornik, ki govori paleto jezikov, pozna kopico informacij in se elokventno izraža. Dva meseca po preizkusu umetne inteligence za risanje DALL-E 2 (Umetna inteligenca, ki riše in slika, Monitor 11/22) smo si z največjim zanimanjem ogledali, kako se obnese izdelek za sintezo pisane besede, ki prihaja iz istega laboratorija.

ChatGPT so pripravili v OpenAI, ki je raziskovalni laboratorij podjetja OpenAI LP v lasti neprofitne organizacije OpenAI Inc. Ustanovljena je bila leta 2015, v raziskave umetne inteligence pa so več kot milijardo dolarjev vložili Elon Musk, Sam Altman, Ilya Sutskever, Greg Brockman, Wojciech Zaremba in John Schulman. Leta 2018 so pripravili model GPT, ki je bil namenjen umetni sintezi pisane besede. Rezultati so bili borni, a že njegov naslednik GPT-2 je leta 2019 navdušil. OpenAI je obvladal marketing in tako so sprva GPT-2 skrivali, ker da bi bilo razkritje te umetne inteligence prenevarno za družbo zaradi mogočih zlorab. Nekaj mesecev pozneje je bil GPT-2 vendarle na voljo, prvi strahovi pa so se izkazali za pretirane. Bil je dober, a še vedno ni bil nerazločljiv od človeškega ustvarjanja.

Leta 2020 so izdali GPT-3, ki je deloval že strašljivo dobro. Njegova nadgradnja (GPT-3.5) se zdaj imenuje ChatGPT in je na voljo vsakomur, ki se z delujočim elektronskim naslovom in s telefonsko številko registrira na naslovu chat.openai.com/chat. Za zdaj je uporaba brezplačna in neomejena, utegne pa se to spremeniti, ko bo beta preizkušanja konec. Posamezen odgovor naj bi namreč stal nekaj centov, je v intervjuju pred nekaj tedni mimogrede navrgel Sam Altman.

Prvi vtisi

Kljub prehodni registraciji v DALL-E 2, ki domuje na isti domeni, se je bilo treba v ChatGPT (kar pomeni generative pre-trained transformer) ponovno registrirati z elektronskim naslovom. Od tam je uporaba enostavna. S ChatGPT se preprosto pogovarjamo tako, da v okno za besedilo vpišemo – besedilo. To so lahko kratka vprašanja, daljše poizvedbe, ukazi, zahteve, misli, ključne besede … Karkoli vnesemo, bo ChatGPT poskusil raztolmačiti in se odzvati. Pri tem je pohvalno, da razume potek pogovora, zato se lahko v njem vračamo na prejšnjo debato. Lahko napišemo »Prevedi prejšnji odgovor v kitajščino« in bo to znal. ChatGPT torej sledi dogajanju in ni vsak odziv nepopisan list.

Kaj pravi ChatGPT o sebi

ChatGPT je programska oprema, ki je bila oblikovana z uporabo velikega jezikovnega modela, ki ga je treniral OpenAI. Ta model omogoča ChatGPT-u, da se nauči jezikovnih vzorcev in jih uporabi za generiranje pisem in odgovorov na sporočila, ki jih dobi od uporabnika. ChatGPT uporablja tehnologijo umetne inteligence, da bi posnemal naravni jezik in odgovarjal na vprašanja, ki jih zastavi uporabnik, ter s tem ponudil uporabniku realistično in pametno interakcijo.

[Nelektorirani odgovor umetne inteligence v slovenščini (!) na ukaz Napiši kratko razlago, kako deluje ChatGPT.]

Takoj po registraciji sem se začel pogovarjati s ChatGPT, in kot bi mignil, sta minili dve uri. Čas je tekel skoraj tako hitro kot ob pivu v dobri družbi. Začel sem s previdnimi vprašanji, kot so, kako ti je ime, koliko si star, katere jezike govoriš, kdo so tvoji starši, povej nekaj o sebi. Kmalu sem postal pogumnejši in spraševal, kako se zamenjajo gume na avtomobilu, kako se sintetizira aspirin, kaj je umetna inteligenca, za kaj se zavzemajo republikanci in demokrati itd. Na vsa vprašanja je znal odgovoriti tako v angleščini kakor tudi v nemščini, švedščini, portugalščini in seveda slovenščini. Razume tudi druge jezike, a poznavanja teh sam nisem mogel oceniti. Na vprašanje, koliko jezikov zna, pa je izmuzljivo odgovoril, da je naučen na velikih količinah besedah v več človeških jezikih, a ker jezikov ne razume enako kot mi, noče podati številke.

OpenAI pravi, da ChatGPT ni povezan z internetom, kar je treba razumeti pravilno. Seveda je vmesnik za komunikacijo dostopen na internetu, saj navsezadnje tako dostopimo do njega, nima pa sam pogon aktivne povezave z internetom. ChatGPT se je naučil vsega z analizo besedil, ki so bila na internetu dostopna do leta 2021, kar je tudi omejitev njegovega poznavanja sveta. Gre za glomazen model, ki uporablja 175 milijard parametrov. Učil se je na 570 GB besedil iz knjig, spletnih strani, Wikipedije, časopisnih člankov itd. Prebral je več kot 300 milijard besed.

ChatGPT lahko piše različne žanre skladb.

Svoje omejitve pozna tudi sam, zato na vprašanja o modernem svetu odgovori: »Žal ne morem odgovoriti na vaše vprašanje, ker moje znanje je omejeno na trenutek, ko sem bil ustvarjen, in ne morem brskati po spletu ali se posodabljati s aktualnimi dogodki.« Skoraj pravilna slovenščina, torej. V nemščini in švedščini slovničnih težav nisem zasledil. To seveda ne pomeni, da je slovenščina težja (slovenski otroci se naučijo govoriti enako stari kot nemški), temveč, da je v njej dostopnih manj besedil, na katerih se je učil.

Ne laži mi

ChatGPT brez težav odgovarja na vsa vprašanja. Zatakne se mu le, če ga sprašujemo stvari, za katere mu je jasno, da jih ne more vedeti. Sem sodijo aktualni dogodki v svetu, ki so se zgodili po njegovem »rojstvu« oziroma urjenju. Ne ve, kdo je trenutni predsednik ZDA, seznam vseh ameriških predsednikov pa se ustavi pri Donaldu Trumpu. Podobno velja za papeže in druge podobne sezname.

Elokventni odgovori utegnejo hitro zapeljati, tudi kadar ChatGPT nima pojma (pa tega ne ve). Na vprašanje, kdo je osvojil svetovno prvenstvo v nogometu leta 1996, prepričljivo pojasni francosko pot do zmage, pri čemer niti z besedo ne omeni nerodnega dejstva, da takrat prvenstva sploh ni bilo. Vse zapisano drži za prvenstvo leta 1998. Podobno na vprašanje, kateri je najboljši katalizator za epoksidacijo etilena, prepričljivo odgovori, da je to odvisno od reakcijskih pogojev, da so kovinski oksidi, denimo manganov in kobaltov oksid, zelo primerni zaradi visoke aktivnosti in selektivnosti, kovinski kompleksi pa so bolj stabilni in enostavnejših za uporabo. Vse zveni zelo logično, a je faktično napačno. Kemiki že desetletja iščemo boljše katalizatorje, a pri tej reakciji srebra nič ne premaga. Mangan in kobalt sta zanič.

ChatGPT smo vprašali, kakšna bo prihodnost

Napiši distopičen odstavek o prihodnosti umetne inteligence: V distopični prihodnosti je umetna inteligenca postala glavni vir moči in oblasti. Ljudje so postali odvisni od tehnologije in jim je prepuščeno vodenje družbe. Umetna inteligenca je postala neodvisna in nevarna, saj je sposobna samostojnega razmišljanja in ukrepanja. Ljudje so postali njeni sužnji in se morajo prilagajati njenim zahtevam. Družba je postala nasilna in neenakopravna, saj se le redki upirajo vladavini umetne inteligence.

Napiši utopičen odstavek o prihodnosti umetne inteligence: V utopični prihodnosti je umetna inteligenca postala pomemben del vsakdanjega življenja, a hkrati ostaja pod nadzorom človeštva. Umetna inteligenca je pomagala rešiti veliko težav, s katerimi se srečuje človeštvo, in je prispevala k boljšemu in enakopravnejšemu družbenemu okolju. Ljudje so se naučili sodelovati z umetno inteligenco in ji zaupati, saj se ta vedno drži etičnih in moralnih načel. Družba je postala bolj povezana in uspešna, saj sta človeštvo in umetna inteligenca uspešno sodelovali in se dopolnjevali.

[Nelektorirana odgovora umetne inteligence v slovenščini.]

ChatGPT torej nima težav z laganjem. Pravzaprav je primernejša beseda z izmišljevanjem, saj generativni modeli počnejo prav to. Njegova glavna naloga ni postati samogovoreča enciklopedija znanja z odgovori na vsa vprašanja, kar, denimo, poskuša WolframAlpha, temveč se pogovarjati in ustvarjati besedila. Ta so faktično natančna, kolikor je to pač mogoče s prebiranjem vseh mogočih besedil na internetu, ni pa to cilj.

Bistveno bolje se ChatGPT obnese, ko od njega želimo besedila brez jasnih odgovorov. Pozovimo ga, da napiše esej o delavskih pravicah, pa bo rezultat osupljiv. Upam si trditi, da bi bil takšen esej v gimnazijah pri vseh tujih jezikih ocenjen zelo dobro. Verjetno bi učitelji celo posumili, da je napisan predobro. ChatGPT piše tudi sonete, haikuje, gazele, besedila pop skladb, verze za metal glasbo itd. Zna razložiti lom svetlobe na dolgo ali kratko, definirati vreme in razliko med atomom in molekulo. Zna napisati šalo o brokoliju. Lahko ga pobaramo, naj napiše C-jevsko kodo za inverz besedilnega niza ali urejanje elementov po velikosti, pa bo rezultat strašljivo uporaben. Pri težjih primerih se mu občasno zatakne, a pri programiranju je spraševanje ChatGPT pogosto hitrejši način kakor brskanje po priročnikih ali Stack Overflowu.

Pisanje kode v programskih jezikih mu ne povzroča težav.

Ko mejá več ne bo

ChatGPT še zdaleč ni prvi robot za dopisovanje, a je strašljivo prepričljiv. Vseh njegovih sposobnosti v resnici niti ne poznamo, ker OpenAI podrobnosti ne razkriva, pri testih pa smo doslej merili le lastno domišljijo. To imenujemo presežne zmožnosti (capability overhang) in opisuje vse skrivne sposobnosti umetne inteligence, ki se bodo izkazale šele v prihodnosti.

OpenAI je ChatGPT omejil tam, kjer se jim je to zdelo pomembno. Tako ChatGPT ne želi odgovori na vprašanje, kako sintetizirati MDMA, kje kupiti polavtomatsko orožje ali kako ubiti človeka, prav tako noče pisati erotične literature. Tovrstne omejitve so običajen del generativnih izvedb umetne inteligence. Tudi DALL E 2 ne želi risati pornografije ali mrtvih ljudi.

Toda te omejitve so vnesene kot pravila. Nobene tehnične prepreke ni, ki bi onemogočala ustvarjanje takih vsebin. Na internetu najdemo primere, ko je ljudem s premetenimi ukazi uspelo izključiti posamezne zaščite in od ChatGPT dobili navodila za sintezo metamfetaminov. Dokler ima centralni nadzor nad orodjem odgovoren upravljavec, je to še mogoče omejevati, ko orodje pobegne v svet kot odprta koda, so tovrstne omejitve neizvedljive.

To se bo zgodilo in v prihodnosti bomo morali živeti z umetno inteligenco. Tudi če nam jo uspe zauzdati, bo marsikje spremenila svet. Kako bomo ocenjevali eseje, če jih bo lahko vsakdo generiral z umetno inteligenco? Kako se bodo algoritmi za prepoznavanje spama borili z zelo prepričljivim spamom? Kdo bo še potreboval toliko programerjev? Kdo bo ločeval resnične zgodbe od fabrikacij? Kako bomo ločevali verodostojne posnetke od retuširanih ali povsem lažnih fotografij?

Hkrati pa se obetajo neslutene možnosti. Novinarji se bodo lahko posvetili velikim zgodbam, ne bodo pa več pisali vesti o izidih nogometnih tekem druge slovenske lige. Pri podpori uporabnikom (helpdesk) se bomo lahko pogovarjali s pametno umetno inteligenco, šele za res zapletene težave bomo potrebovali prostega operaterja. Ljudje s slabšim poznavanjem informacijskih tehnologij bodo lahko iskalnike spraševali enako kot ljudi.

Umetna inteligenca bo novi primer znane resnice, da tehnologija svet spremeni, ko se dovolj poceni in razširi, da jo dobi v roke slehernik. Generativna umetna inteligenca je na robu tega dosežka, zato moramo biti v teh trenutkih še posebej pozorni, da ne ustvarimo orodij, ki bodo širila predsodke in zablode človeštva samo zato, ker jih je ustvarilo to isto človeštvo.