Nvidia izdala novi najmočnejši grafični čip za umetno inteligenco
Vodilni proizvajalec grafičnih čipov, ki se dandanes uporabljajo zlasti v umetni inteligenci, je izdal novega zastavonošo. Pred nami je Nvidiin HGX H200, ki predstavlja korenit korak naprej v primerjavi s H100. Ima 40 odstotkov večjo prepustnost pri dostopu do pomnilnika, 80 odstotkov večjo pomnilniško kapaciteto in orjaško računsko moč.
Čipi, kakršna sta H100 in H200, so uporabni za poganjanje umetne inteligence. Zaradi masovne paralelizabilnosti lahko prežvečijo gore podatkov, kar so zahteve današnjih jezikovnih modelov in drugih primerov uporabe. Prav pomanjkanje teh čipov je ozko grlo pri večji uporabi umetne inteligence. Že dolgo namreč grafični čipi niso prvenstveno namenjeni grafiki.
H200 je prvi grafični čip, ki uporablja pomnilnik HBM3e. Na voljo ima do 141 GB pomnilnika s prepustnostjo 4,8 TB/s, kar je 2,4-krat več od A100 iz leta 2020. H200 bo na voljo v več oblikah. Za strežnike bodo pripravili konfiguracije s štirimi ali osmimi čipi, ki bodo nazaj združljivi s HGX H100. Na voljo bo tudi kot superčip Nvidia GH200, ki ima v enem pakiranju GPU in CPU.
Nvidia je dejala, da bodo prvi uporabniki novih čipov podatkovni centri Amazon Web Services, Google Cloud, Oracle Cloud in Microsoft Azure. Proizvajalci kartic bodo končnim potrošnikom začeli prodajati v drugem četrtletju prihodnjega leta. Cena: med 25.000 in 40.000 dolarjev. Nvidia obljublja, da bo proizvodnja dosegla dva milijona enot H100 na leto, za H200 pa bomo še videli.
