Podatkovni centri večinoma niso pripravljeni na umetno inteligenco

Poročilo družbe Schneider Electric razkriva, da zahteve po napajanju in hlajenju za bremena s področja umetne inteligence presegajo današnje standardne zasnove podatkovnih centrov. V prihodnosti bo potrebna temeljita prenova, v nekaterih primerih celo zamenjava podatkovnih centrov, da bi se ti prilagodili vrsti procesiranja, ki ga zahteva uporaba umetne inteligence.

Umetna inteligenca namreč zahteva drugačno vrsta delovne obremenitve kot standardne aplikacije na strežnikih, denimo baze podatkov. Poročilo navaja, da je treba zagotoviti bistveno večje zmogljivosti glede dobave energije, hlajenja in pasovne širine.

Grafični procesorji, ki so pogosto osnova za AI, so obenem tudi energijsko najbolj intenzivni. Medtem ko procesorji Intel in AMD porabijo približno 300 do 400 vatov, Nvidijini najnovejši grafični procesorji porabijo 700 vatov na procesor, porvh vsega so pogosto dobavljeni v skupinah po osem enot v gruči.

To povzroča bistveno večjo porabo energije na prostorsko enoto, strežniško omaro, kot doslej. V preteklosti je bila gostota porabe energije na omaro od približno 10 do 20 kW in jo je bilo enostavno rešiti z zračnim hlajenjem (hladilniki in ventilatorji).

Današnja bremena zlahka presegajo porabo 30 kW na omaro, kar pomeni, da zračno hlajenje ni več izvedljiva možnost za hlajenje. V teh primerih je treba poseči po tekočinskem hlajenju, kar pa ni enostaven poseg z naknadno vgradnjo.

Schneider predvideva, da bo skupna kumulativna poraba energije podatkovnih centrov po vsem svetu letos znašala 54 GW in do leta 2028 dosegla 90 GW. V tem času bo obdelava z umetno inteligenco prešla iz 8 % celotne porabe energije letos na 15 % do 20 % do leta 2028.

A to še ni vse. Medtem, ko se pri gradnji podatkovnih centrov največ pozornosti posveti dobavi energije in hlajenju, se pogosto spregleda ustrezna prepustnost omrežja in povezljivost. Grafični procesorji, ki obdelujejo podatke iz pomnilnika s hitrostmi blizu 900 Gbps, so lahko močno upočasnjeni, če jih povezujemo prek omrežja s hitrostjo 100 Gbps, tipično najdenega v današnjih podatkovnih centrih. Na voljo so sicer tudi hitrejše tehnologije, kot je InfiniBand, a so te tudi do 10-krat dražje.