Algoritmični šef
Še nedavno je bila ideja umetne inteligence, ki bi na delovnem mestu upravljala ljudi, predmet distopičnih znanstvenofantastičnih novel. A že dandanes v mnogih podjetjih, bankah in celo javnih ustanovah algoritmi upravljajo mnoge vidike njihovega delovanja. Z razvojem tehnologije bodo pristojnosti takšnih šefov postale le še večje.
Avtomatizacija je postala del vsakdanjika. Ni treba izgubljati besed o tem, da lahko skoraj vsako enostavno fizično delo sprega računalnika z robotom opravi bolje kot človek. Napak je manj, delo pa je opravljeno hitreje in ceneje. Z razvojem tehnike so zato ogrožena praktično vsa fizična dela. Vendar pa je dolgo veljalo prepričanje, da so iz te računice izvzeti različni človeški upravniki. Ti delajo umsko, intuitivno in naj bi tako prekašali računalniški program. Kar pa ne drži v celoti. Mnoga od tovrstnih del je namreč mogoče razdrobiti na serijo nalog in ukazov, kar seveda ni nič drugega kot algoritem. Čedalje večji obseg dela menedžerjev, sploh iz sredine hierarhične lestvice, zato prevzemajo računalniki.
Povečan nadzor na vsakem koraku sili delavce k čedalje večji hitrosti in učinkovitosti, hkrati pa jih izključuje iz delovnih procesov. Sprejemanje kakršnihkoli odločitev enostavno ni več prepuščeno njihovi presoji.
Iznajdljive opice proti HAL 9000
Človeški upravnik postaja nezadosten zaradi čedalje večjega obsega dela na eni strani in napak, ki jih povzročajo vsakdanje reči, kot so utrujenost, predsodki ali ego na drugi. Vse to bi lahko program odpravil in tako vsaj v teoriji povečal učinkovitost odločanja, ki bi bilo bolj konsistentno, pravično in prilagojeno potrebam ter zmožnostim uslužbencev. Vendar pa bi bil tudi takšen algoritmični šef – nekoliko paradoksalno – podvržen mnogim človeškim napakam, saj bi ga ustvarili prav ljudje. Mi pa smo nepredvidljiva bitja. Naše predsodke bi lahko čisto nehote vgradili v sam sistem. Prav tako bi ga skoraj gotovo znali izigrati, saj smo vendar potomci iznajdljivih opic. Pred nekaj leti je, denimo, Uberjevim voznikom grozilo, da zaradi algoritma ne bodo prišli do bonusa. Organizirali so prave male skupnosti za deljenje informacij in z usklajenimi dejanji prevarali sistem. Če se jih je veliko istočasno odjavilo iz Uberjevega sistema, je to dvignilo ceno prevoza, s tem pa njihov dobiček. Ljudje večinoma tudi ne maramo sprememb, četudi so dobre.
Tranzicija na algoritmično upravljanje bo mnogo lažja, če se bodo inženirji zavedali teh človeških prvin in hkrati upoštevali nekaj zdravorazumskih pravil. Da bo takšen program ščitil delavce, na primer, namesto da bi jih silil v čedalje daljše ure na račun njihovega zdravja. Gotovo bi pomagala tudi transparentnost programa. Če bi lahko uslužbenci računalniškega šefa videli, na podlagi česa se odloča, bi zagotovo njegove odločitve lažje sprejeli. Verjetno bi bilo smotrno tudi odstraniti določene človeške vzorce iz takšnih sistemov. Recimo prej omenjene družbene predsodke. Če ostanemo pri omenjenih šoferskih službah – mnogo voznic bi lahko bilo deležnih negativnih uporabniških ocen le zaradi predsodkov, ki jih Slovenci gojimo do žensk za volanom. Te ocene bi negativno vplivale na njihov zaslužek in kakovost dela. A računalnik bi se jim lahko ognil in upošteval le resnično relevantne kriterije. Algoritmični upravitelj bi tudi moral biti zasnovan z mislijo na človeško potrebo po svobodi. Če bi preveč strogo uveljavljal svoja pravila, bi to pri uslužbencih prej zanetilo upor in željo po izigravanju sistema kot pa poslušnost in učinkovitost.
Živeti v službi računala
Da bi razumeli, kako algoritmično upravljanje vpliva na delavce, se moramo ozreti na sodobne oblike dela. Čedalje več podjetij, predvsem v sektorju informacijskih tehnologij, se odloča za tako imenovani »gig« ali nastopni način zaposlovanja. Kar pomeni, da so v očeh podjetja delavci le pogodbeniki, ki se dogovorijo za »nastop« v kakšnem projektu. Denimo programerka, ki za neko podjetje oblikuje spletno stran, prejema plačilo le do trenutka, ko svoje delo zaključi. Po tem si pač poišče naslednji »gig«. Ta oblika dela pa se od običajnih pogodbenih razmerij razlikuje v tem, da ima podjetje veliko večji nadzor nad tovrstnimi uslužbenci. Čistilca v hotelu sledijo in ga upravljajo oddaljeni algoritmi. Tudi prodajalčevo izmeno čedalje pogosteje ureja računalnik, ne pa delovodja. Povrh vsega pa njihovo delo z zvezdicami, s smajliji ali točkami pogosto ocenjujejo obiskovalci, ne menedžerji.
Algoritmično upravljanje je pravzaprav le niz ukazov in nalog, ki jih je treba izpolniti. Te lahko človeku vzamejo ogromno časa, računalnik pa jih opravi v trenutku.
Uslužbenci se tako soočajo z mnogimi pritiski. Ti so kakopak obstajali že poprej, vendar pa so z razvojem tehnologije dosegli nove višave, hkrati pa izgubili človeški obraz. Povečan nadzor na vsakem koraku sili delavce k čedalje večji hitrosti in učinkovitosti, hkrati pa jih izključuje iz delovnih procesov. Sprejemanje kakršnihkoli odločitev enostavno ni več prepuščeno njihovi presoji. Algoritmične odločitve pa so pogosto delavcem nedoumljive, saj običajno nimajo vpogleda v proces. Pogosto ne premorejo niti potrebnega tehničnega znanja, da bi lahko takšen proces ocenili in naslovili. Omenjeni način ocenjevanja dela uslužbencev prek kupčevih ocen lahko hitro pripelje do nepoštene obravnave zaradi predsodkov. Saj vsi vemo, da so Črnogorci leni, Bosanci neumni, da Cigani kradejo in da Albancem ne gre zaupati, mar ne? Te zadeve pa je moč z omenjenim sistemom ocenjevanja vtepsti v glavo tudi računalniku. Kar pa je – s stališča podjetja – itak povsem okej, kajti takšen način upravljanja firmam omogoča, da se distancirajo od odločitev algoritmičnega upravnika ter se tako operejo krivde in očitkov.
Volk z Wall Streeta
Algoritmi ne prodirajo le na delovna mesta, čedalje več jih kroji tudi naše finance. Danes že večina bank, borz in sorodnih finančnih ustanov trguje ob pomoči algoritmov. Takšni posredniki imajo namreč pred svojimi človeškimi inačicami dve veliki prednosti – hitrost in količino podatkov, ki jih lahko obdelajo. Obe sta posebej pomembni pri trgovanju z veliko frekvenco, ko je treba v kratkem času prodati ali zamenjati veliko vrednostnih papirjev. V času, ki ga človek potrebuje, da prejeto informacijo obdela in na njeni podlagi začne trgovati, računalnik takšno menjavo že davno opravi. Visokofrekvenčni algoritmi so močno spremenili podobo samega trgovanja, predvsem kar se tiče omogočanja likvidnosti. Zaradi njihove hitrosti se manjša razlika med ponujenimi in zahtevanimi cenami, kar onemogoča prednost tistih, ki narekujejo ceno na trgu. S tem pa se povečuje likvidnost celotnega trga z neko dobrino.
Računalniški algoritem lahko tako izvaja celotno finančno strategijo za neko podjetje. Deutsche bank uporablja Stealth, Credit Suisse je razvila programa Sniper in Guerrilla, BNP Paribas pa Chameleona. Ti in ostali tovrstni programi na podlagi statistične arbitraže, gibanja trendov in povprečnega povratka cen izračunavajo optimalne čase za nakup in prodajo vrednostnih papirjev ali dobrin. Njihova učinkovitost je tolikšna, da so naleteli na velik odpor človeških trgovcev, ki jih izpodrivajo. Finance postajajo področje, kjer človek in računalnik postajata enakovredna, zaradi česar nekateri že govorijo o kiborških financah, navezi človeka in algoritma. Mnogi ekonomisti in politiki so zaradi takšnega trgovanja že izrazili zaskrbljenost. Računalnik namreč nima intuitivnega razumevanja sveta, le številke. Zaradi tega po mnenju nekaterih obstaja večja možnost, da bo kakšen algoritem naredil napako, ki bi pripeljala celo do borznega zloma. Te strahove pa še povečuje netransparentno odločanje računalnika, ki izpljune le cifre, o svojem procesu razmišljanja – ki ga seveda (še) nima – pa molči.
Finance postajajo področje, kjer človek in računalnik postajata enakovredna, zaradi česar nekateri že govorijo o kiborških financah, navezi človeka in algoritma.
Šef za vsakdanjo rabo
Na algoritmično obdelavo podatkov se čedalje bolj zanašamo. Predlani, recimo, je ekipa slovenskih zdravstvenih znanstvenikov razvila program, ki analizira kri in na podlagi tako pridobljenih podatkov ugotavlja vrsto obolenj. Čeprav še ni v splošni rabi, že velja za zelo soliden diagnostični pripomoček. Seveda ni edini takšen, zdravstvo se že dolgo močno zanaša na presojo računalnika. Kar pa, na koncu koncev, tudi ni novost, saj medicina od nekdaj uporablja nekatere enostavne algoritme, recimo, binarne karte za ugotavljanje pomena bolečin v prsih ali pa indeks za izračun razmerja med višino in težo posameznika. Na algoritme se zanaša tudi policija, saj z njimi določa mnoge naloge – od enostavne patrulje do obrazne prepoznave osumljencev ali profiliranja na osnovi rasne pripadnosti. Tudi sodišča po svetu uporabljajo čedalje več algoritmov, da bi pohitrila pravne postopke.
Vendar pa se vedno in povsod pojavljajo uvodoma omenjene težave. Algoritmi so netransparentni, nečloveški in pogosto nerazumljivi. Lahko so izjemen pripomoček, ki močno dvigne učinkovitost, vendar pa se brez stalnega človeškega nadzora kmalu izpridijo. Omenjeni sodni algoritmi, ki jih v Kentuckyju uporabljajo že desetletje, so poglobili razkorak med tem, koliko temnopoltih in koliko belcev je bilo izpuščenih proti varščini. Kar izhaja iz strojnega učenja na podlagi primerov, ki so v ZDA močno enostranski, lahko bi celo rekli rasistični. Kentucky, ki je pred uvedbo algoritma precej enakopravno obravnaval obe rasi, je algoritem zamenjal že večkrat, a težave se ponavljajo.
Računalniški program lahko na podlagi neke informacije, denimo krvne slike ali šarenice, postavi natančno diagnozo. A pomembno je, da v medicini zadnja odločitev še vedno pripada človeku.
Papagaj
Razumeti je namreč treba, da algoritmični izračun, kolikor kompleksen že je, ne predstavlja umetne pameti. Za njim ni razmisleka, ni čustev, ni razumevanja konteksta, ampak le matematika, zaporedje enostavnih nalog in izračunov. Podatki za obdelavo so pogosto pridobljeni s strojnim učenjem, a tudi to se je izkazalo za težavno. Ko so, recimo, računalnik učili prepoznavati volka, ga je zamenjal za kup snega, ki se je pojavil na vseh fotografijah s temi divjimi zvermi. Druge paradokse programe (na)učimo ljudje sami. V Veliki Britaniji so ugotovili, da policija pogosteje nadzira muslimane. Iz strahu pred islamskim terorizmom so jih vzeli pod drobnogled, zaradi česar so v tej skupnosti ugotovili več prekrškov. To je izkrivilo statistiko in algoritem je ugotovil, da bodo muslimani prej zakrivili neki prestopek, zato je po njegovem treba še povečati nadzor nad muslimani. Takšno krožno sklepanje je – zaradi računalniške logike v spregi s človeškimi predsodki – postalo samoizpolnjujoča prerokba. Tako gre razumeti algoritme kot nekakšne papagaje, ki bodo le ponavljali naše napake. Res so lahko so mogočno orodje, ki dela svet učinkovitejši, a zaradi naših napak in pohlepa istočasno postajajo tudi sredstvo zatiranja, nečlovečnosti in pohlepa. Multiplikator najboljših in najslabših človeških lastnosti.