NVIDIA julkisti Grace Hopper GH200 Superchip HBM3e -palvelinalustan

NVIDIAn nahkatakkinen toimitusjohtaja Jensen Huang on pitänyt keynote-esityksensä SIGGRAPH-tapahtumassa. SIGGRAPHista ei irronnut kuluttajille juurikaan uutisia, mutta palvelinpuolelle tuli uutta.

NVIDIA julkaisi tapahtumassa uuden version Grace Hopper Superchip -alustastaan. Uusi GH200 Grace Hopper perustuu edeltäjänsä tavoin Grace-prosessoriin ja GH100-laskentapiiriin. Grace on varustettu tuttuun tapaan 72 Arm Neoverse V2 -ytimellä ja sen parina on edelleen 480 Gt LPDDR5X-muistia ECC tuella. GH200 on niin ikään tuttua kauraa 132 SM-yksiköllään.

Uutta GH200:ssa on Hopperin parina olevat HBM3e-muistit. Aiemmissa malleissa laskentapiirin tukena oli 96 Gt HBM3-muistia, josta 94 Gt oli käytettävissä, mutta uudessa versiossa on käytössä 24 Gt:n HBM3e-pinot, joten muistia 6144-bittisellä muistiväylällä on yhteensä 144 Gt, josta 141 Gt on käytettävissä. Yhtiön mukaan uudet HBM3e-muistit ovat jopa 50 % nykyisiä HBM3-muisteja nopeampia, mutta raakojen lukujen valossa ero on pienempi; 96 Gt:n mallilla muistikaistaa oli 3,9 Tt/s, kun nyt sitä on 5 Tt/s.

NVIDIA markkinoi ensisijaisesti kahden GH200:n konfiguraatiota, joka tarjoaa yhtiön mukaan jopa kolminkertaisesti muistikaistaa nykysukupolven verrokkiin nähden, vaikkei raa’at tekniset ominaisuudet moista lupaakaan. Piirien kerrotaan kykenevän käsittelemään jopa 3,5-kertaa niin suuria tekoälymalleja, kuin nykyversio.

NVIDIAn Grace Hopper GH200 HBM3 -version toimitukset ovat käynnissä parhaillaan. Uuden HBM3e-version luvataan olevan täysin yhteensopiva ainakin NVIDIAn MGX-palvelinalustan kanssa, joten päivitykset nykypalvelimiin ovat mutkattomia. NVIDIAn mukaan se odottaa kumppaneidensa kykenevän aloittamaan GH200 HBM3e -palvelinten toimittamisen ensi vuoden toisella neljänneksellä.

Lähde: NVIDIA