IBM ne bo več ponujal, razvijal ali raziskoval sistemov za prepoznavo obrazov
Izvršni direktor IBMa, Arvind Krishna, je v pismu ameriškemu Kongresu zapisal, da podjetje ne bo več ponujalo in razvijalo splošnih sistemov za prepoznavo obraza. Ključni razlog, ki ga je navedel, je nenatančnost oz. rasna pristranskost tovrstnih sistemov.
Sistemi za prepoznavanje obrazov, ki temeljijo na strojnem učenju, so v zadnjih letih zelo napredovali in jih marsikje uporabljajo tudi organi pregona. Najbolj znani so primeri iz Kitajske, vendar so, vsaj kot pomožni sistemi, v uporabi tudi v ZDA in denimo v Veliki Britaniji.
Vendar so zaradi nepravilno kalibriranih vzorcev fotografij, na katerih se »učijo«, velikokrat pristranski do manjšinskih ras, v ZDA največkrat do temnopoltih. V praksi to pomeni, da lahko računalnik osumljenca bolj verjetno lažno prepozna v zbirki že kaznovanih oseb, če je temnopolt.
Eden bolj znanih sistemov, ki ga uporabljajo tudi nekateri policijski oddelki v ZDA, je Amazonov Rekognition. Leta 2018 je organizacija American Civil Liberties Union ugotovila, da je sistem med 25.000 fotografijami osumljencev napačno »našel« tudi 28 članov ameriškega Kongresa.
Na tapeti je tudi podjetje Clearview AI, ki je svoj sistem strojno »naučilo« s pomočjo treh milijard fotografij, ki jih je strojno pobralo iz družabnih omrežij. Tudi ta sistem je nato uporabljalo kar nekaj podjetij in celo agencij za kazenski pregon. Podjetje se sicer trenutno utaplja v tožbah. Tudi Facebook je za svoj sistem prepoznavanja obrazov v januarju plačal 550 milijonov dolarjev kazni.
- Se bo Clearview širil tudi v Slovenijo?
- Clearview AI - Jasen pogled brez anonimnosti
- Vdor v bazo podjetja Clearview
Nekateri opazovalci menijo, da je IBM za ukinitev (ali pa morda le »ukinitev«) svoje tehnologije prepoznavanja obrazov izbral politično oportuni trenutek, ko so ZDA v viharju rasnih nemirov.