Googlov procesor za strojno učenje je bistveno hitrejši od tekmecev

Google je objavil podrobnosti o zmogljivosti svoje namenske procesorske platforme za strojno učenje, ki ji pravijo Tensor Processing Unit (TPU). V navzkrižni primerjavi s tekmeci, Intelovim strežniškim procesorjem Haswell in procesno enoto Nvidia Tesla K80 se je pokazalo, da je Googlov TPU kar 15- do 30-krat hitrejši in kar 80-krat učinkovitejši.

Google je procesno enoto TPU predstavil na lanski razvojni konferenci, vendar so jo že pred tem uporabili v svojih oblačnih storitvah, med drugim tudi v sistemu AlphaGo, ki je pred meseci porazil svetovnega prvaka v igri Go. Toda doslej so molčali o dejanski zgradbi in zmogljivosti procesne enote, omenjali so zgolj dosežke.

Googlovi inženirji so pri razvoju TPU ubrali nekoliko drugačno pot, kot konkurenca. Medtem, ko so procesne enote drugod večinoma zasnovane na specializiranih grafičnih procesnih enotah (GPU), s poudarkom na izračunih z visoko natančnostjo (števila s plavajočo vejico), Googlov TPU podpira le omejeno natančnost, ponekod celo zgolj 8-bitno upodobitev podatkov, vendar s poudarkom na učinkovitem upravljanju algoritmov na osnovi nevronskih povezav.

Strokovnjaki poudarjajo, da na področju strojnega učenja največja zmogljivost procesnega sistema ni več najpomembnejši kazalnik. Precej bolj pomemben je celoten stroške lastništva (TCO), ki ga v tem primeru merijo z zmogljivostjo na porabljeni Watt porabljene energije. Tu Google TPU resnično blesti.

Če zmogljivost Intelov Haswella na področju strojnega učenja označimo z indeksom 1, potem Nvidia K80 nudi indeks zmogljivosti/ porabe, ki je 1,2- do 2,1- boljši od Intelove osnove. Googlov TPU pa je prikazal učinkovitost v rangu 41- do 83-krat višjo od Intela in 25- do 29-krat višjo od Nvidie. Drugače povedano, za nekaj razredov bolje.

Googlov TPU utegne spremeniti poglede industrije, kaj je najbolje za prihajajočo dobo strojnega učenja in umetne inteligence. Medtem, ko lahko pričakujemo pri sedanjih procesnih enotah GPU zgolj inkrementalne izboljšave, TPU predstavlja zasuk v povsem drugo smer. Google poleg tega poudarja, da bo strojno platformo sporti prilagajal razvoju specifičnih algoritmov in ne obratno, kar pomeni, da »generični« procesorji GPU utegnejo tu še bolj zaostajati.