Pametni računalniki

Ne boste verjeli, zadnje leto se vse več pogovarjam o rešitvah in programih, ki temeljijo na umetni inteligenci (UI). Tudi na teh straneh sem že pisal o njej, med drugim tudi o tem, da se vse bolj opiram na pomoč teh sistemov.

Da bi lahko ti sistemi bistveno spremenili tržišče računalnikov, doslej niti nisem pomislil. A med branjem novic s tehnoloških sejmov tega področja sem zasledil, da podjetja že obljubljajo prihod »umetnointeligenčnih računalnikov«.

Šlo naj bi za računalnike, ki bodo imeli poleg navadnega osrednjega ter grafičnega procesorja vgrajen tudi namenski procesor za naloge, povezane z UI. NPU – Neural Processing Unit smo že večkrat zasledili pri pametnih telefonih, pri računalnikih jih pričakujemo letos.

S tem se trenutno ukvarjajo skoraj vsa tehnološka podjetja, pri prenosnikih se najbolj pojavlja Intel. Tako so sprožili marketinško akcijo za prepoznavanje AI PC, kar označuje računalnike z vgrajenim NPU, torej tiste, ki uporabljajo procesorje nove družine Meteor Lake in imajo v vezje dodan tudi namenski NPU.

Prvi korak pri interakciji uporabnik–naprava naj bi prevzela lokalna umetna inteligenca v navezi z lokalno nameščenim SLM, naslednje korake pa nato obdela »oblak« oziroma LLM.

Ideja je, da bi lahko uporabniki (no, operacijski sistemi in aplikacije) vsaj del umetnointeligenčnih storitev poganjali lokalno, na samem računalniku, brez »oblaka«. Bolj ali manj vse današnje umetnointeligenčne storitve namreč tečejo spletno, na strežnikih v različnih oblakih. Zadnje čase se pogosto igram z Microsoftovim kopilotom, a ta brez spletne povezave ne zna ničesar. Dejansko ne uporablja ničesar od moje lokalne strojne programske opreme.

Enote NPU naj bi omogočale dvoje. Prvo je seveda vsaj osnovno delovanje umetne inteligence že lokalno, brez povezave s spletom. Drugo, pomembnejše, pa je bolj odzivna izkušnja pri uporabi UI. S temi vezji naj bi se tudi razširila potencialna raba teh orodij – že zdaj se razvija ogromno namenskih umetnointeligenčnih pomagačev, možnost, da bi jih poganjali lokalno, bo še okrepila razvoj in širino teh orodij.

Kot zanimivost naj omenim, da naj bi bil na tem področju izredno aktiven Apple. Ne razvijajo samo razvijajo lastnih vezij, torej procesorjev in enot NPU, ampak menda pospešeno tudi lastne majhne jezikovne modele. Namesto LLM – Large Language Model so to SLM – Small Language Model. Predvideva se, da s tem merijo predvsem na prenosne naprave, z iphoni na čelu. Prvi korak pri interakciji uporabnik–naprava naj bi prevzela lokalna umetna inteligenca v navezi z lokalno nameščenim SLM, medtem ko se naslednji koraki že obdelujejo v ozadju, torej v spletnem oblaku in v navezi z LLM.

Bomo nekoč prenosnike (telefone) ocenjevali po njihovi pameti? Mislim, da ne zares. Tako kot pri marsikaterem področju (procesorji, operacijski sistemi) se bo tudi tu razvilo nekaj velikih igralcev – v tem hipu je videti, da bodo to Microsoft, Meta (Facebook) in Google, čakamo še, kaj bo predstavil Apple in kakšna bo vloga Amazona. Ostali, torej proizvajalci računalnikov, telefonov in še česa, bodo pač tudi postali podrejeni velikanom.