Algoritmi okrog nas

Andrew Smith se v svoji novi knjigi Devil in the Stack (Hudič v kopici) spopada z dejstvom, da računalniški kod neovirano in vse hitreje pronica na vsa področja našega obstoja.

Ariel Bleicher, MIT Technology Review

Metronom tiktaka, plošča se vrti, in medtem ko odzvanja prijetna popevka, ogromna stiskalnica drobi najrazličnejše predmete. Pločevinke barve pokajo, šahovske figure padajo, leče fotoaparata se razbijejo. Budilka presunljivo zvoni in nato utihne, zlomi se trup kitare, prihranjeno ni niti igrači, katere oči odnese iz plastičnih jamic, dokler mehanske čeljusti stiskalnice z oglušujočim zamolklim pokom ne dosežejo tudi njih. A prisluhnite, spet se sliši popevka, in ko se čeljusti dvignejo, se prikaze – ipad.

Med predvajanjem razvpitega Applovega oglasa se porajajo tudi tesnobni občutki, kako digitizacija korenito spreminja naše življenje. Seveda smo veseli, da računalniki prevzemajo zadolžitve, ki jih ne maramo oziroma ne obvladamo dobro, recimo nakupovanje in iskanje lokacije. A kaj pomeni, če se tisto, kar nam je pri srcu in smo mislili, da je značilno le za človeka – prijateljstvo, umetnost, jezik in ustvarjalnost –, zreducira na programsko opremo?

Andrew Smith kot novinar, specializiran za tehnologijo, piše o pohodu pojavov, kot sta Amazon in bitcoin, zato ga je začela zanimati srhljiva neznana logika, ki tiči za njimi. Tako se je podobno kot Upton Sinclair v Džungli odločil raziskati neprijetno resnico in se v ta namen začel učiti programiranja.

Pokazalo se je, da to ni tako preprosto. Izziv je že samo izbira programskega jezika, je ugotovil Smith, saj jih obstaja več kot 1.700 in vsak ima svoje muhe ter posebnosti. Opise podrobnosti programiranja – funkcij, podatkovnih sestav, operatorjev dodelitev, pogojev in zank while – se bere s prav takšno muko, kot se je on očitno prebijal skoznje. A izplača se potrpeti zaradi njegovih podrobnih opisov zgodovine programiranja, filozofije in mehanike, saj nam pričara zanimivo – čeprav hkrati tudi srhljivo – podobo tehnologije, v katero večina ljudi nima pravega vpogleda.

Kot pojasnjuje Smith, je klasično računalništvo odvisno od plasti abstrakcije, čemur programerji pravijo sklad. Izhodišče je strojni kod, vzorec enic in ničel, ki ga izvajajo električna stikala na čipu, zaključek pa zahtevni jeziki, kot so python, javascript in perl, ki jih človek najlažje razume, za napravo pa pomenijo več dela, saj jih je treba prevesti v navodila, ki jih je mikroprocesor zmožen uresničiti. Vsaka nova plast nam omogoča, da pozabimo na prejšnjo in se nam njeno delovanje zdi samoumevno, je zapisal Smith.

Po njegovem mnenju je programiranje hudičevo delo, saj se zaradi prikladnosti odpovemo razumevanju. Zaradi tega kompromisa je kod zelo zmogljiv, a hkrati tudi nevaren, ker prikrije zapletenost in nas odtujuje od nepreglednih analognih postopkov, ki bi jih rad zakodiral programer. »Abstrakcija v računalništvu poveča konceptualno razdaljo med virom in signalom, vhodnimi in izhodnimi podatki, prikrije verigo povezav in vzročnosti,« je prepričan Smith. To mogoče ni pomembno, če želimo simulirati gozd v videoigri ali modelirati novo zdravilo. A če je tisto, kar naj bi predstavljal kod, nekaj človeškega – odnosi, trgi, vojne –, abstrakcija pripomore k nevarnemu izrivanju empatije. Pomislite samo na trole na družbenih omrežjih in ubijalske brezpilotne letalnike.

Smitha še bolj skrbi umetna inteligenca (UI), ki iz množine podatkov za učenje tako rekoč sama piše svoj lastni računalniški kod. Umetnointeligenčni programi, kot je ChatGPT, so postali neverjetno dobri v posnemanju osebe. A medtem ko pri človeku lahko dosežemo, da pojasni svoja dejanja, UI ne zmore razmisleka o lastnih odločitvah in njeni procesi ostajajo uganka. »Dokler so naše naprave dovolj inteligentne, da razumejo, zakaj delajo, kar delajo, bomo opolnomočili algoritemske sisteme, ki nekritično pišejo sami sebe in jih nič in nihče ne razume,« je zapisal Smith. Njegova rešitev so predpisi, na primer varnostne oznake in prepovedi algoritmov, ki le še poglabljajo neenakost.

Na koncu Smith preide v iskreno občudovanje programerjev in programerske kulture, ne more pa se otresti pomisleka, da bo vse večja odvisnost od digitalne tehnologije povzročila več škode kot koristi, če se ne bomo začeli resno posvečati tudi njenim pastem.

Ethan Mollick, predavatelj na poslovni šoli Wharton na pensilvanski univerzi, je v svoji knjigi z naslovom Co-Intelligence (Sointeligenca) bolj optimističen glede UI. Mollick preučuje inovacije in posledice dela z novimi tehnologijami ter tudi predava o tem. Redno eksperimentira z umetnointeligenčnimi klepetalnimi roboti – uporabil jih je tudi pri pisanju in urejanju knjige –, študente pa spodbuja, da jih uporabljajo za zbiranje poslovnih zamisli in piljenje svojih predstavitev vlagateljem tveganega kapitala. Objavil je tudi raziskavo, v kateri s soavtorji poroča, da so ljudje, ki UI uporabljajo kot pomoč pri strokovnem delu, recimo trženju in analiziranju podatkov, učinkovitejši, ustvarjalnejši, lepše pišejo in hitreje rešijo težave od tistih, ki se zanašajo le na svoje možgane.

Mollick zato velja za vernika v sodelovanje med človekom in UI. V svoji knjigi si predstavlja ne tako daljno prihodnost, v kateri bodo sistemi UI postali naši družabniki, ustvarjalni partnerji, sodelavci, inštruktorji in mentorji. V svojih napovedih, da bo UI spodbudila naše spoznavne zmožnosti, pripomogla k našemu razcvetu na delovnem mestu in preobrazbi izobraževanja, da se bomo več naučili in manj delali, včasih zveni kot pomagač velikih tehnoloških družb.

Če pustimo vznesene napovedi ob strani, je knjiga koristen vodnik po UI in vključuje tudi predstavitev njenih slabih plati. Vsi, ki so že preizkusili ChatGPT in podobne modele, vedo, da si ti pogosto kaj izmislijo. A tudi če se bo njihova natančnost izboljšala, svari Mollick, se ne smemo sprostiti in postati manj oprezni. Ko bo UI postala zmožnejša, ji bomo prej zaupali in zato nam bo manjkrat uspelo prestreči njene napake.

Z uporabo UI ne tvegamo le nesporazumov, temveč bi lahko upadla zmožnost našega kritičnega in inovativnega razmišljanja.

V raziskavi, v kateri so sodelovali poslovni svetovalci, je Mollick skupaj s kolegi ugotovil, da so udeleženci zadolžitve, ki so jih dobili, preprosto vnesli v model UI in prekopirali odgovore. Ta strategija se jim je običajno obnesla in z njo so pridobili prednost v primerjavi s svetovalci, ki niso uporabili UI, vendar se jim je vrnila kot bumerang, ko so raziskovalci dodali zvijačno vprašanje z zavajajočimi podatki. V drugi raziskavi so kadrovniki, ki so uporabljali zelo kakovostno UI, postali leni, malomarni in so slabše presojali kot kadroviki, ki so si pomagali z manj napredno UI ali je sploh niso uporabljali, zato so spregledali odlične kandidate. »Če je UI zelo dobra, ljudje nimajo razloga, da bi se potrudili in ohranjali pozornost,« je potožil Mollick.

Privlačnost bližnjice z UI je celo poimenoval, in sicer kot gumb. »Ko na ljudi pritiska prazen list papirja, se odločijo za pritisk na gumb,« je zapisal. Z uporabo UI ne tvegamo le nesporazumov, je poudaril, temveč bi lahko upadla zmožnost našega kritičnega in inovativnega razmišljanja. Soočamo se tudi s krizo pomena, je izpostavil Mollick. Ko si pri pisanju opravičila ali priporočila pomagamo z gumbom, ti gesti – ki sta sicer dragoceni zaradi časa in truda, ki ju vložimo vanju – postaneta puhli.

Mollick je kljub temu optimističen in prepričan, da se nam bo uspelo izogniti številnim pastem UI, če jo bomo uporabljali namensko. UI nas pogosto preseneti, ker se odlikuje pri nepričakovanih zadevah, na primer pripovedovanju zgodb in posnemanju empatije, medtem ko pri zadevah, ki bi jih po našem mnenju morala obvladati, na primer matematiki, pogori. Ker ni priročnika za UI, Mollick svetuje, da jo preizkusimo za vse mogoče. Le z nenehnim testiranjem bomo spoznavali njene zmogljivosti, ki se še vedno razvijajo, in omejitve.

Če nočemo, da bi nam nekritično pritiskanje na gumb prešlo v navado, nadaljuje Mollick, moramo UI videti kot ekscentričnega kolega namesto vseznalega služabnika. Ljudje moramo preverjati njene laži in predsodke, pretehtati moralnost njenih odločitev in razmisliti, katere naloge ji lahko prepustimo, katere pa še vedno želimo opraviti sami.

UI vzbuja strah, a tudi občudovanje, ker zaradi nje preverjamo svoja prepričanja, kdo smo. »UI me zanima zaradi tega, kar razkriva o ljudeh,« je napisala avtorica Hannah Silva v provokativni mešanici spominov in romana z naslovom My Child, the Algorithm (Moj otrok algoritem), katere soavtor je starejši predhodnik ChatGPT. Silvova je umetnica, ki piše igre za radio BBC. Medtem ko se je spopadala z vsakdanjim življenjem homoseksualno usmerjene samske mame v Londonu, je začela klepetati z algoritmom, mu postavljati vprašanja in pošiljati odlomke iz svojih iger, od njega pa v odgovor dobivala dolge, gostobesedne odstavke. V knjigi se njuna glasova pomešata v eno pesem.

Njen algoritem je bil manj prefinjen od sodobnih modelov, zato je njegov jezik bolj nenavaden, v njem je več nelogičnosti in pogosto se ponavlja. A zaradi čudaštva komu tudi zveni globoko. »Ljubezen je širjenje pare v školjko,« je izjavil. Celo njegove muhe so včasih smešne ali globoke. »Razmišljam o seksu, razmišljam o seksu, razmišljam o seksu,« nenehno ponavlja in izraža njeno obsedenost. »Do ponovitev pride, ko se algoritem spotakne in pogori,« je ugotovila, »vendar se zaradi ponavljanja zdi človeški in to v meni vzbuja najbolj človeške odzive.«

Algoritem jo v marsičem spominja na malčka, ki ga vzgaja. »Učita se ob pomoči slišanega oziroma vnesenega jezika,« je zapisala Silvova. Oba se učita napovedovati vzorce. »E-I-E-I …« je spodbudila otroka. Odgovoril ji je: »O!« Oba jo prekinjata in redko storita, kar hoče, oba jo tako razveselita s svojo domišljijo, da si pri njiju izposoja sveže zamisli. »Kaj je v škatli?« je nekoč otrok vprašal mamino prijateljico. »Nič, prazna je,« je odgovorila. Malček je škatlo izpustil, da je treščila na tla. »Ni prazna!« je vzkliknil. »Nekaj ropota!«

Tako kot algoritem se tudi malček zatakne v zanki. »Gospa mami na telefonu … mami … gospa mami na telefonu … mami … gospa mami na telefonu … mami …« je neke noči klical v svoji postelji in zahteval svojo drugo mamo, s katero pa se je Silvova razšla. Razlika je seveda, da so njegove solze in prizadetost zaradi maminega odhoda resnične. V nadaljevanju knjige je napisala, da je moledoval, naj pride, in neutolažljivo jokal. Zaradi globoke krivde je prepustila algoritmu, da je spregovoril namesto nje: »Počutila sem se izpostavljeno, samo in odgovorno za vsako človeško misel, ki se mi je kadarkoli porodila, in za svojo zmožnost ljubiti pa temo v meni, dokler nisem čutila, da je moja lobanja poplavljena in me je zajel bled, medel tok mojega prihodnjega življenja.«

V knjigi človek in UI zrcalita drug drugega, bralec pa se mora vprašati, kje se konča prvi in začne druga. Silvova se sprašuje, ali izgublja svojo istovetnost kot avtorica, podobno, kot je pogosto izgubila sebe v materinstvu in ljubezni. Kljub vsemu se zabava, uživa v čarobnosti in norosti, enako kot v svojih človeških odnosih. Kot ji je povedal algoritem: »Drugačnost pomeni živeti s protislovji in jih ljubiti.«

Copyright Technology Review, distribucija Tribune Content Agency.