Informacijski sistem, ki je kradel

Računalniški sistemi se uvajajo, da bi zmanjšali možnost napak in pomot ter okrepili nadzor in olajšali delo. Z utemeljitvijo, da računalniki ne delajo napak, njihovim izračunom implicitno verjamemo bolj kot ljudem, nemalokrat se uporabljajo kot dokazno gradivo. Toda kadar je programska oprema hroščata, kar povečuje možnost napak, lahko slepo zaupanje povzroči hude težave. Britanska pošta se že 20 let ukvarja z informacijskim sistemom, zaradi katerega so po krivem obsodili stotine ljudi, jih pahnili v bankrot in jim uničili življenja. Horizon je največja afera v informacijski tehnologiji.

Začelo se je z dobrimi nameni. V 90. letih preteklega stoletja je britanski Pošti (Post Office) posel cvetel. Elektronsko pošto so uporabljali le največji tehnološki zanesenjaki na inštitutih in univerzah, spletno nakupovanje še ni obstajalo, dostavnih služb je bilo malo. Število poslanih pisem je raslo za 2–6 odstotke letno, povečevali so se tudi zaslužki od drugih storitev. V letih 1987–1999 je britanska Pošta v državno blagajno vplačala 1,4 milijarde funtov davka na dobiček in 2,4 milijarde dolarjev dividend, največ prav v letih 1998 in 1999. Časi so bili zlati.

Število poslovalnic je sicer vrh doseglo sredi 60. let, drastično pa je začelo upadati po letu 2000. Tedaj je pošta tudi prvikrat zabredla v resne težave in veliko izgubo, a ne zaradi poslovanja. Povzročilo jo je knjigovodsko prevrednotenje sistema Horizon. Prevedeno v preprostejši jezik: odpisali so velik del vrednosti zgrešene naložbe. A težave z omenjenim sistemom so se šele začenjale, predvsem pa glavna žrtev ni bila Pošta. Zaradi tega sistema so ljudje izgubljali premoženje in na koncu tudi svobodo.

Kaj je šlo narobe

Čeprav je Fujitsu težave leta poskušal pomesti pod preprogo, kar je vključevalo skrivanje informacij, ukinjanje preiskovalnih skupin in zavajanje, je iz poročil Second Sighta in javno dostopnih sodb mogoče v grobem razbrati, kje je imel Horizon težave.

Sistem Horizon je imel nemalo težav. 

Poslovodje so opozarjali, da je bil Horizon mnogo kompleksnejši sistem z več funkcijami od sistemov v povprečnih bančnih poslovalnicah. Vseboval je številne vmesnike do zunanjih sistemov (hand-off), med drugim loterijskih srečk in bankomatov. Strojna oprema je bil nezanesljiva, zaradi česar so izpadali tiskalniki, prekinjale so se komunikacijske povezave s centralo. Težave so imeli tudi z zasloni, ki niso imeli poravnane grafike, zato je pritisk na ikono včasih aktiviral sosednjo. Sistem ni imel prehodnega konta (suspense account) za začasno knjižene transakcij, za katere ni bilo takoj jasno, kam bi morale iti. Če k temu dodamo še pomanjkljivo usposabljanje, slabo podporo uporabnikom (helpdesk) in možnost zunanjih popravkov transakcij v sistemu, je bila katastrofa neizbežna.

Pogodbe med franšizojemalci in Pošto so vse tveganje in vso odgovornost preložile na prve. Čeprav je Pošta trdila, da so pogodbe primerljive z ostalimi franšizami, to ni držalo. Horizon ni imel ustreznih varovalnih mehanizmov za zmanjšanje možnosti napak: franšizojemalci so morali sami skrbeti za polnjenje bankomatov, s Horizonom so se poslovila papirna potrdila o transakcijah, programska oprema ni opozarjala na večkratno prijavo z istim računom, ni označila sumljivih transakcij (zneski, ura itd.), ni zahtevala dodatnega preverjanja za visoke zneske pri transakcijah, preverjanje odstopanj ni bilo več tedensko, temveč mesečno itd. Pojavljale so se skrivnostne transakcije po koncu delovnega časa, ki jih poslovodje ali zaposleni niso zahtevali, nekatere transakcije so bile knjižene le enkrat (v dvostavnem knjigovodstvu morajo biti dvakrat) … Vse to in podobni primeri so vodili k izgubam, povrnitev katerih je Pošta zahtevala od poslovodij.

Japonska osvojila britanski javni sektor

V zlatih 90. letih so računalniki počasi trkali na najrazličnejša poslovna vrata, kamor je sodila tudi britanska Pošta. Prvi razpis za digitalizacijo so objavili leta 1994 in po mukotrpnem izbiranju so leta 1996 izbrali International Computers Limited (ICL). Podjetje je bilo nastalo leta 1968, ko si je britanski minister za tehnologijo Tony Benn zamislil konkurenco ameriškemu IBM in japonskim konglomeratom. ICL je nastal s končno združitvijo več britanskih podjetij (International Computers and Tabulators, Elliott Automation, English Electric, LEO in Marconi), v njem pa je imela država 10-odstotni delež in obvezo po zagotavljanju denarja za raziskave.

ICL, v katerem je bilo v najboljših časih zaposlenih več kot 30.000 ljudi, je hkrati zmagoval na javnih razpisih za računalniško opremljanje velikih britanskih javnih zavodov in državnega gospodarstva, denimo ministrstva za obrambo, davčne uprave in pošte. A leta 1998 je Fujitsu prevzel ICL in tako se je japonsko podjetje znašlo v položaju privilegiranega dobavitelja v britanskem javnem sektorju. Ko je ICL leta 1996 zmagal na razpisu in začel razvijati informacijski sistem za britansko Pošto, je bil še britansko podjetje, a je že zelo tesno sodeloval z Japonci. Razvijati so začeli programski paket Horizon.

Digitalno obzorje

Do leta 1999 je ICL za razvoj novega informacijskega sistema potrošil že 700 milijonov funtov državnega denarja, saj je razvoj potekal kot javno-zasebno partnerstvo. Čeprav je nova laburistična vlada tedaj financiranje projekta ustavila, je bilo v Horizon vloženega že preveč denarja, da bi obstal. ICL in Pošta sta se dogovorila in projekt je bil za približno milijardo funtov uspešno dokončan. Konec leta 1999 so začeli v poštne poslovalnice nameščati nove plačilne terminale, ki so podpirali Horizon.

Horizon je bil večnamenski informacijski sistem, ki je poskrbel za vse vidike poslovanja. Uporabljali so ga za izvajanje plačil, računovodstvo, upravljanje zaloge itd. Vseboval je programski, strojni in komunikacijski del, podatkovne registre in procesiranje podatkov. Pričakovali so, da bo bistveno poenostavil poslovanje in poslovodjem prihranil veliko delo. Namesto več ur bi jim tedenski obračun vzel le nekaj deset minut. Na vrhuncu navdušenja leta 2000 so nov terminal s Horizonom namestili vsakih pet minut, v sistem pa so naposled vključili več kot 18.000 poslovalnic, v katerih so za delo z njim usposobili 63.000 zaposlenih. A kmalu se je začelo zapletati.

Alan Bates, ki je od leta 1998 vodil poslovalnico v Walesu v kraju Llandudno, je bil eden izmed prvih, ki so podvomili o delovanju novega sistema, ki so ga morali obvezno uporabljati. Vodilne je obvestil, da je v Horizonu več resnih napak, zaradi česar ne deluje zanesljivo. Kot številne druge poslovalnice je tudi ta delovala podobno kot franšize. Bates je bil poslovodja poštne poslovalnice (sub-postmaster) od leta 1998, ko jo je kupil od prejšnjega lastnika. Pošta pa mu je izplačevala osnovno plačo in delež od prodaje, skupno približno 38.000 funtov letno. V prvem letu se ta znesek novim poslovodjem zniža za 25 odstotkov.

Manko, dasiravno nezaželen, je pri poslovanju nekaj običajnega in se ugotavlja ob inventurah. Prejšnja upravljavca poslovalnice sta imela leta 1993 manko v višini 208 funtov, v naslednjih letih pa nič. Nekaj sto funtov neskladja letno je bilo za večje poslovalnice z veliko prometa običajno in Pošta tega ni problematizirala. A leta 2000, ko je Bates začel uporabljati Horizon, so se začeli kopičiti precej večji primanjkljaji. Do konca leta je bil manko 6.000 funtov, a je kasneje odkril napako pri knjiženju, ki je nepojasnjeno luknjo skrčila na dobrih tisoč funtov. Pošto je obvestil o sumu, da je manko navidezen in posledica napake v informacijskem sistemu, a je ta od njega vseeno zahtevala poplačilo vseh 1.041 funtov. Namesto da bi plačal »dolgovani« znesek, je kopál po sistemu in v več sporočilih svojemu nadrejenemu izpostavil napake in pomanjkljivosti v Horizonu. Marca 2002, 15 mesecev po prvi pritožbi, so mu dolg odpisali brez razlage, kaj je povzročilo manko, aprila 2003 pa ponovno zahtevali plačilo. Bates tega ni storil, zato je bil novembra 2003 odpuščen.

Njegovih trditev, da je s Horizonom nekaj resno narobe, ni nihče jemal resno. Bates je vedel, kaj govori, ker je pred prevzemom poštne franšize 12 let delal kot vodja projektov, med drugim tudi v podjetju, ki je razvijalo programsko opremo za plačilne terminale. A opozorila so preslišali.

David proti Goljatu

Pošta je do goljufov, poneverjevalcev in tatov neizprosna. V pogodbah o franšizi je bila vključena klavzula, da morajo minuse pokriti poslovodje, prav tako pa jih je lahko Pošta sodno preganjala. Pošta je to počela že dlje časa, po letu 2000 pa se je število pregonov strmo povečalo. V letih 2000–2014 so tožili 736 poslovodij, kar pomeni skoraj enega na teden. Vsem so očitali poneverbe in nepojasnjene manke, ki jih je Pošta želela nazaj. Nekateri so končali celo v zaporu, številni so »izgubo« povrnili iz svojih prihrankov, večino so jih odpustili, nekaj jih je končalo tudi v osebnem stečaju. Pošta je očitno nenadoma imela v svojih vrstah neverjetno veliko goljufivih poslovodij, medtem ko so pred letom 2000 preganjali komaj kakšnega na leto.

Tudi rast števila tožb lepo korelira s širjenjem Horizona po poslovalnicah. Leta 2006 je bilo zaradi poneverb glede na Horizonove podatke obsojenih šest ljudi, leta 2001 že 41 in leta 2002 kar 64. A pri Pošti so vztrajali, da sistem Horizon deluje brezhibno in da gre za nepoštene franšizojemalce. Sprva je agonija potekala daleč strani od oči javnosti, čeprav je Bates že leta 2004 pisal reviji Computer Weekly, ki je primer začela podrobneje spremljati. Dokaze je bilo težko pridobiti, saj niti poslovodje niso imeli polnega dostopa do podatkov o svojih poslovalnicah v Horizonu, kar je bil leta pozneje tudi eden izmed glavnih očitkov v tožbi. Pošta je preprosto trdila, da lažejo in poneverjajo, ter zahtevala, naj dokažejo nasprotno, a jim dokazovanja ni omogočila. Izvedli naj bi kar dve notranji reviziji sistema, ki nista pokazali nobenih težav. In tako so ljudje izgubljali zaposlitve in življenjske prihranke, ko se jih je lotila pravna služba Pošte. Posamezniki so namreč po pravilu izgubljali spore, ker je računalniški sistem neizpodbojno prikazoval velike primanjkljaje, ki so segali do več deset tisoč funtov.

Od kod Fujitsu

Nenavadno se zdi, da je v središču največjega britanskega škandala z računalniškim sistemom japonsko podjetje. Tamkajšnja javnost o aferi ne ve nič, celo večina zaposlenih na Japonskem ni seznanjena z njo. Trenutni izvršni direktor Takahito Tokita ne komentira Horizona niti pisno, intervjujev o tej temi ne daje. Fujitsu vztraja, da je to problem njihove britanske podružnice, s katerim japonski del podjetja nima nič.

Začelo se je s podjetjem ICL, ki je bil britanski paradni konj računalniške tehnologije, ustanovljen za zaustavitev ameriške prevlade. Iz enakih vzgibov je Japonska tedaj bogato podpirala Fujitsu, ki je v 80. letih prejšnjega stoletja investiral in kupoval vsepovprek. Denarja je veliko, bil je poceni, menjalni tečaj jena je bil ugoden. Istočasno je ICL potreboval poceni tehnologijo za konkurenčnost v nižjem cenovnem razredu, saj ni mogel živeti le od pogodb z državo. Mednarodna konkurenca ga je prehitevala, podjetje se je utapljalo v izgubah.

ICL je leta 1980 aktivno obiskoval potencialne partnerje, dokler ni tedanji novi izvršni direktor Robb Wilmot leta 1981 podpisal pogodbe s Fujitsujem, ki je ICL licenciral tehnologijo LSI (large scale integration). Podjetji sta sodelovali čedalje tesneje, dokler ni Fujitsu leta 1990 prevzel 80 odstotkov ICL za 1,3 milijarde dolarjev. Osem let pozneje je podjetje kupil v celoti in leta 2002 ukinil blagovno znamko ICL. Še danes ima Fujitsu privilegiran položaj na britanskih javnih razpisih.

Eden izmed množice oškodovanih je tudi Phil Cowan, ki je s partnerico vodil poslovalnico v edinburškem predelu Parsons Green. Sistem Horizon je prikazal nepojasnjeno izgubo v višini 30.000 funtov, zaradi česar je regionalni menedžer skupaj z dvema revizorjema po Cowanovem klicu obiskal poslovalnico. Imel je le eno vprašanje: »Kdaj nam lahko poplačate izgubo?« Premetali so celotno poslovalnico, pobrali vso lastnino Pošte (denar, znamke, terminale, sefe itd.). Odpovedali so mu pogodbo in ga tožili, zaradi česar je Cowan ostal tudi brez drugih franšiz za bencinske servise. Zgodba o nepoštenem franšizojemalcu se pač hitro širi. Cowanova zaročenka je leta 2009 umrla zaradi kombinacije alkohola in antidepresivov, ki jih je začela jemati po začetku finančnih težav. Nikoli ni izvedela, da je Pošta tik pred njeno smrtjo umaknila obtožbe.

Da podobnih zgodb ni manjkalo, so Cowanu med premetavanjem poslovalnice potrdili tudi regionalni menedžer in revizorja. Kashif Nadeem je vodil poslovalnico v Newbridgeu v Edinburgu, ki je »pridelovala« do 1.500 funtov »minusa« na teden. Stopil je v stik s Pošto, da bi mu pomagali odkriti napako v sistemu, a so ga raje obtožili poneverb. Da se je izognil sodnemu pregonu, je pristal v plačilo 28.000 funtov, kolikor je naračunala Pošta. To je približno enoletni zaslužek upravnika manjše poslovalnice. Nadeem je vzel kredit, poplačal Pošto, vrnil franšizo in se zaposlil v trgovini pri sorodniku. Vesolje ima občutek za ironijo, zato so ga desetletje pozneje, ko je odplačal kredit in je bila zgodba razjasnjena, s Pošte povprašali, ali bi bil pripravljen vzeti kakšno franšizo.

Terminal sistema Horizon leta 2000. 

Nekaj je narobe

Leta je Pošta mirno tožila poslovodje, ki so po podatkih Horizona izkazovali nepojasnjene manke, in bila pri tem izjemno uspešna. Obsojenih je bilo več kot 700 ljudi, ki so nato poplačevali fantomske dolgove in številni tudi bankrotirali. Šele leta 2009 je Computer Weekly objavil prvi daljši članek o domnevnih nepravilnostih v programski opremi. Istega leta je skupina poslovodij ustanovila JSFA (Justice For Subpostmasters Alliance), ki se je boril za njihov prav.

Po več letih pritožb poslovodij, pritiskov JSFA in lobiranju v parlamentu je Pošta vendarle dopustila možnost, da je s Horizonom nekaj narobe. Leta 2012 so naročili revizijo sistema pri podjetju Second Sight, ki je julija 2013 objavilo prvo vmesno poročilo. V njem ni izrecno pisalo, da je Horizon »defekten«, so pa priporočili pregled postopkov in podpore, ki jo imajo franšizojemalci. Pošta je tedaj priznala, da ima Horizon nekaj hroščev, a vztrajala, da deluje učinkovito.

Precej bolj uničujoče je bilo končno poročilo, ki je v celoti izšlo poleti 2015. V njem je Second Sight sistem Horizon v nekaterih primerih opredelil kot neprimeren. Odkrili so 12.000 komunikacijskih napak na leto, programske napake v 76 poslovalnicah ter staro in neprimerno strojno opremo. Sistem ni beležil transakcij od prodaje loterijskih srečk ter plačil od nadomestil za uporabo cest in bankomatov. Pošta tega ni opazila, temveč je namesto tega zatrjevala poneverbe.

Pošta nad neodvisno preiskavo, ki so jo pod pritiskom javnosti in politike formalno naročili sami, ni bila navdušena. Revizorjem so omejevali dostop do ključnih datotek. Tik preden se je revizija zaključila, so ukinili svojo komisijo, ki bi morala obravnavati poročilo in predlagati ukrepe. Namesto tega so sami poročali, da sistemskih težav ni, manjše število aktivnih sodnih postopkov pa da bodo rešili z mediacijo.

Ta se je res začela, a ker Pošta pritožnikov ni jemala resno, jih je večina umaknila soglasje za mediacijo. Leta 2015 je Pošta ukinila shemo za pregled pritožb in mediacijo. Alan Bates in še šest drugih franšizojemalcev je leta 2018 vložilo kolektivno tožbo proti Pošti, pridružilo pa se jim je še dobrih 500 oškodovancev, ki jim je bila Pošta odpovedala pogodbo ali jih kazensko preganjala. Očitajo ji, da jih je preganjala po krivem, številne pahnile tudi v osebni stečaj, da je zavajala o zanesljivosti sistema in da ni nudila nobenega izobraževanja za njegovo uporabo, ob prijavljenih težavah pa tega ni preverila. Pošta je trdila, da to ne drži in da tožniki želijo izsiliti spremembo pogodb, ki so jasno določale, da so sami odgovorni za manko.

Tožbe in poravnave

Decembra 2019 se je sodni postopek nepričakovano skrajšal, saj je bila sklenjena poravnava. Pošta se je strinjala, da tožnikom izplača 57,8 milijona funtov, od česar pa je šlo približno 46 milijonov funtov za pravne stroške. Država kot lastnik Pošte je trdila, da je s tem zadeva zaključena, a poravnava je bila slaba kupčija. Za franšizojemalce je ostalo dobrih 11 milijonov funtov oziroma približno 20.000 funtov na osebo, kar je celo manj od neupravičeno zaračunanih zneskov, kaj šele odškodnine za prestano kalvarijo. Prav tako je poravnava izrecno izključevala vse, ki so bili obsojeni zaradi poneverb. Pokrivala je torej le tiste, ki jim je Pošta odpovedala pogodbe, zahtevala vračilo denarja in jih pahnila v finančne škripce. Poravnavi je sledila še sodba, v kateri je višje sodišče ugotovilo, da Horizon ni bil »robusten« in da je imel številne napake in hrošče.

A vseeno je po tej poravnavi sledil plaz tožb in pritožb, tako na sodišča kakor Odbor za pregled kazenskih postopkov (Criminal Cases Review Commission), s čimer je v letih 2020–2022 približno 70 franšizojemalcem uspelo doseči preklic obsodb. Skupno je spornih 736 sodb, ki jih lahko obsojenci zdaj izpodbijajo (unsafe convictions) – ti ne sodijo v poravnavo. Poravnava pokriva le 555 poslovodij, ki so se pridružili kolektivni tožbi.

Obstaja pa še tretja pot. Oškodovanci, ki se niso pridružili kolektivni tožbi, se lahko vključijo v posebno shemo (Historical Shortfall Scheme), ki jo je Pošta ustanovila leta 2020. Do junija letos so iz sheme poplačali približno dve tretjini upravičencev izmed 2.368. Marca letos pa se je odnos spremenil. Pošta se je ponovno opravičila. Britanska vlada se je še enkrat začela pogajati z JSFA, koliko bi znašala resnično pravična odškodnina, ki bi pokrila tako materialno kakor nematerialno škodo. Čeprav je pravnoformalno izplačana odškodnina 555 tožnikom dokončna, je pritisk javnosti poskrbel za nova pogajanja. Situacija je namreč precej ironična. Omenjenih 555 je s svojo tožbo poskrbelo, da so se institucije zganile in da se je vzpostavila še dodatna shema, ki nudi od 100.000 funtov odškodnine, a hkrati niso upravičeni do tega mehanizma. Vlada je zato napovedala, da bodo dodatne odškodnine dobili tudi ti, a se to še ni zgodilo.

Po uspešni pritožbi na sodišču leta 2021.

Epilog

Afera Horizon je resda največji in najusodnejši primer računalniške napake v človeških žrtvah, ni pa edini. A od ostalih nesreč, ki so jih zakrivili hrošči, se razlikuje v pomembni podrobnosti. Ni šlo za spodrsljaj, enkratno nesrečo, dogodek, ki ga ne bi bilo mogoče preprečiti. Napake so se dogajale več kot desetletje, več sto ljudi je nanje opozorilo, a je Pošta ignorirala opozorila in šele več let kasneje priznala, da je sistem zatajil.

Medtem ko nas je evolucija pripravila na nezaupanje do drugih pripadnikov lastne vrste, nas na stroje ni. Več raziskav je pokazalo, da ljudje bolj verjamejo podatku, ki jim ga posreduje stroj, četudi ne vedo nič o izvoru in zanesljivosti informacije. To je znan pojav, s katerim se soočajo marsikje, od izvajanja dokazov na sodiščih do nasedanja prevaram v nezaželeni elektronski pošti. Pojav se imenuje automation bias in predstavlja enega največjih izzivov pri varni vpeljavi tehnologije in sobivanju s človeškimi upravljavci. Slepo zaupanje v tehnologijo kot zrcalna slika paranoičnega zavračanja je prav tako slabo.

Prav zaradi afere je BCS (nekdaj British Computer Society) leta 2020 pozval k spremembam obravnave računalniških dokazov na sodiščih. Nasprotujejo podmeni, da so računalniški sistemi vedno zanesljivi in podatki verodostojni, ne da bi to lahko dokazali. Sistemi so namreč različni, tako po velikosti kakor kompleksnosti in seveda robustnosti . Brez revizije, ki so jo je za Horizon prvikrat naročili šele 12 let po začetku uporabe, tega ni mogoče trditi.

A nepošteno bi bilo zgodbo o aferi zreducirati le na preveliko zaupanje tehnologiji. Kruto in nečloveško obravnavo franšizojemalcev – stotine bankrotiranih, vsaj dva sta potrjeno naredila tudi samomor – so izbrali in potrdili zaposleni v Pošti. Ljudje iz mesa in krvi, ki pa za svoje odločitve niso nikoli zares odgovarjali.

Zgodilo se je nasprotno. Pogodbo s Fujitsujem je Pošta lani podaljšala še za eno leto, saj naj bi bil izhod bolj zapleten, kot se je zdelo. To ni edina tovrstna pogodba. Fujitsu je prav letos dobil novo 48 milijonov funtov vredno pogodbo z britansko policijo za nadgradnjo policijskega informacijskega sistema. Skupno je Fujitsu letos dobil že za 500 milijonov funtov pogodb z britansko vlado, od leta 2013 pa 3,7 milijarde funtov.

Še najbliže kazenski odgovornosti so se odgovorni znašli letos, ko britanska policija preiskuje nekaj uslužbencev Fujitsuja zaradi suma krivega pričanja v sodnih postopkih, ko so zatrjevali, da je sistem preverjen in brezhiben. Hkrati v britanskem parlamentu poteka preiskava dogodkov, ki bo poskušala razjasniti, kako je lahko šlo toliko stvari tako dolgo tako zelo narobe.

Afera Horizon ni zgodba o slabem programu. To je zgodba o tem, kako hitenje, slabe odločitve, pomanjkljivo načrtovanje in tiščanje glave v pesek povzročijo katastrofo, ki je uničila več kot tisoč življenj. To je zgodba o digitalizaciji, ki ne sme biti sama sebi namen, modna muha in nepremišljena, temveč mora biti zanesljivo zasnovan sistem, ki bo koristil vsem deležnikom. Pošta s Horizonom ni želela nikomur škodovati ali česa ukrasti, a se je zgodilo prav to. Banalnost zla.