Novi val osebnih računalnikov - Copilot+ PC
Novi računalniki prvič v svetu PC vsebujejo tudi namenske procesne enote za procesiranje algoritmov umetne inteligence, tako tistih s področja strojnega učenja (računalniški vid, razpoznava govora ...) kot sodobnih algoritmov generativne umetne inteligence, kot so veliki jezikovni modeli (LLM). Microsoft jih imenuje Copilot+ PC, bolj splošno pa jim pravimo AI PC. Preizkusili smo prvega med njimi.
Poleg Microsofta so računalnike Copilot+ PC predstavili tudi številni drugi proizvajalci prenosnikov.
Če pogledamo s tehnične plati, je podpora za procesiranje funkcij umetne inteligence na lokalni napravi, torej brez oblaka, ključni dejavnik, ki ločuje »navadne« računalnike PC od tistih, ki nosijo (in bodo nosili) oznako Copilot+ PC. Microsoft namreč meni, da morajo računalniki oziroma njihove nevronske enote NPU biti sposobne procesirati vsaj 40 TOPS (bilijonov operacij na sekundo), kar je več, kot trenutno zmorejo skoraj vsi osebni računalniki v prodaji, sploh če se omejimo na področje prenosnikov.
Trenutno najhitrejši procesor za osebne računalnike v tej smeri je družina Apple M3, katerih enota za nevronsko procesiranje NPU zmore 18 TOPS. Sledita procesorja AMD za prenosnike Ryzen 8040 in 7040 s 16 oziroma z 10 TOPS, medtem ko so Intelovi procesorji generacije Meteor Lake sposobni le 10 TOPS.
Ne čudi torej, da prvi računalniki z oznako Copilot+ PC tečejo na arhitekturi ARM, na procesorju Qualcomm Snapdragon X, saj različica Elite zmore dovolj visokih 45 TOPS. Priče smo torej dvojni revoluciji v svetu PC – resnem prehodu na ARM, kot ga je že pred leti izvedel Apple, in uveljavitvi umetnointeligenčnih algoritmov v lokalnih napravah.
Seveda pa je zmotno misliti, da je platforma Copilot+ PC omejena platformo ARM, ki jo srečamo v novih surfaceih, prvih tovrstnih izdelkih samega Microsofta. Platforma ostaja odprta tudi za druge procesne platforme. V času pisanja tega prispevka sta tako Intel kot AMD najavila, da bodo v letošnjem letu predstavljene različice enot NPU, ki bodo zadostile Microsoftovim kriterijem za Copilot+ PC.
Kaj ob tem menijo veliki proizvajalci računalnikov? Pragmatično sledijo Microsoftu in njegovim smernicam. Skoraj vsak od velikih proizvajalcev je že na predstavitvenem dogodku ob splovitvi platforme Copilot+ predstavil vsaj en računalnik, ki ustreza novi smeri razvoja. Lenovo je najavil računalnike Yoga Slim 7x in ThinkPad 14s, HP ima nove modele OmniBook CX AI in EliteBook Ultra AI, Dell pa XPS 13 in Inspiron 14 Plus. Acer je napovedal model Swift 14 AI, Asus Vivobook S15, Samsung pa Galaxy Book4 Edge.
Dell je platformo Copilot+ ponudil tudi v priljubljenih prenosnikih XPS.
Prav vsi temeljijo na procesorski platformi Qualcomm Snapdragon X (v različicah Plus in Elite). Prav vsi so prenosniki (razen Microsofta nobeden ne ponuja tablice) in vsi imajo precej bolj konvencionalno zasnovo od Microsofta. To pomeni, da gre za prenosnike, večinoma z diagonalo 14 palcev, redkeje tudi več. Skoraj vsi ponujajo kanček več, kar se tiče dodatne periferije (več RAM, večje pomnilniške enote, več vmesnikov), najverjetneje bodo tudi cenejši od Microsoftovih tablic/prenosnikov Surface. Pričakovati je, da bodo cene razmeroma hitro upadle na raven današnjih modelov brez enot NPU. Sploh tedaj, ko se bodo pridružili modeli s platformami Intel in AMD.
Lenovo ThinkPad T14s.jpg Copilot+ ne bo namenjen zgolj dragim prenosnikom, temveč tudi »delovnim konjem«, kot je Lenovo ThinkPad T14s.
Kaj sledi? Najbrž je lahko pričakujemo, da se bodo v prihajajoče računalnike AI PC vgrajevale enote NPU z različnimi zmogljivostmi. Meja 40 TOPS je potreben pogoj, nihče pa ne prepoveduje še zmogljivejših sistemov. Vprašanje tudi, kako velike modele LLM bo mogoče uporabljati lokalno in ali bo Microsoft dovolil, da bodo enote NPU uporabljali v enaki obliki tudi neodvisni proizvajalci. Bomo nekega dne lokalno poganjali modele Llama, Mixtral, Gemma (vsi odprtokodni) in morda še katerega od Microsoftovih/OpenAI konkurentov?
Kaj pa uporabniki, ki ne bodo (takoj) naredili prehoda? Tem seveda ostane uporaba umetnointeligenčnih orodij v oblaku, ki bodo še naprej nudila največ, najlažje pa jih bo tudi posodabljati.