Pogovori z Google Assistantom so pricurljali v javnost
Google je posredno vpleten v nov incident - povezan je s curljanjem posnetkov pogovorov uporabnikov z njihovimi digitalnimi pomočniki Google Assistant.
Novinarji belgijske medijske hiše VRT NWS so stopili v kontakt s podizvajalci družbe Google, ki so jim brez zadržkov omogočili poslušanje okoli 1.000 posnetkov uporabniških pogovorov z digitalnim pomočnikom. To pušča dvome nad postopki za varovanje zasebnosti, ki jih ima Google v povezavi s svojimi izdelki.
Dejstvo je, da Google poleg lastnih zaposlenih za dodatno razpoznavo govora oziroma ukazov digitalnemu pomočniku uporablja zunanje pogodbene partnerje. Tako kot vsi ostali, denimo Amazon in Apple, kar smo pisali tudi v nedavnem članku v Monitorju. Pogodbeni podizvajalci so razpršeni po celem svetu, saj želi Google z izdelkom podpreti različne jezike in naglase, ljudje pa pomagajo umetno inteligenco, ki je v ozadju, učiti tudi razpoznavo spola in starosti sogovornikov pomočnika.
Še posebej zaskrbljujoče je dejstvo, da se trditve proizvajalca in dejansko stanje na terenu precej razlikujeta. Google, podobno kot Amazon in Apple trdi, da iz posnetkov ni mogoče določiti uporabnika, ki je na posnetku. Toda po mnenju VRT NWS je bilo v poslušanih posnetkih vsaj v nekaj primerih iz konteksta pogovora moč razbrati lokacijo ali celo identiteto uporabnika. Glede na ohlapnost pravil dela s posnetki se je tudi izkazalo, da bi lahko dejansko prišlo do zlorab.
Google se je na incident že odzval z izjavo za javnost. V njej branijo svojo odločitev, da za pomoč algoritmom umetne inteligence uporabijo ljudi, kar pa se menda dogaja le v 0,2% primerov vseh posnetkov opravljenih s pomočniki. Strokovnjaki za jezike, kot Google imenuje svoje podizvajalce, imajo pri tem jasna pravila, ki pa so jih v konkretnem primeru verjetno kršili. Sledila bo interna preiskava in ustrezno ukrepanje proti podizvajalcem. Verjetno pa bo treba narediti še kaj več tudi na tehničnem nivoju, da bi onemogočili tako enostavno curljanje občutljivih podatkov.