Samsung esitteli Processing-In-Memory-muistien etuja modifioiduilla AMD Instinct MI100 -laskentakorteilla

Olemme uutisoineet PIM-muisteista io-techissä aiemminkin, mutta suurelle yleisölle Processing-In-Memory-muistit lienevät vielä verrattain tuntematon käsite. Lyhyesti kyse on muisteista, joihin on integroitu suoraan laskentaominaisuuksia vähentämään datan siirtämisen tarvetta.

Samsung on tähän mennessä tiettävästi toteuttanut FP16-laskentakykyisiä PIM-versioita DDR4-, LPDDR5(X)-, GDDR6- ja HBM2-muisteista. Teknologian potentiaalia kuvaa esimerkiksi Tom’s Hardwaren artikkelin kohta, jossa PIM paransi suorituskykyä jopa 80 % ja pienensi tehonkulutusta 42,6 ja viiveitä 70 %, kun tavalliset LPDDR5-muistit vaihdettiin LPDDR5-PIM-muisteihin ja mikään muu ei muuttunut Metan tekoälytehtäviä laskevassa palvelimessa.

Samsung on nyt lyöttäytynyt yhteen AMD:n kanssa ja käyttänyt yhtiön MI100-laskentapiirejä (CDNA) PIM-muistien yhtenä kehitysalustana. Samsungin kerrotaan esitelleen PIM-HBM2-muisteilla varustettuja MI100-piirejä jo lokakuussa, mutta vasta nyt yhtiö sai rakennettua 96 GPU:n laskentaklusterin muokatuista laskentakorteista.

Business Korean raportin mukaan Samsung demonstroi ”PIM-M100:n” kykyjä T5-kielimallin opetustehtävillä. 96 GPU:n klusterikoolla koko järjestelmän suorituskyvyn kerrotaan kasvaneen jopa 2,5-kertaiseksi samalla, kun tehonkulutus tippui 2,67-kertaisesti, mitä se Samsungin PR-kielessä sitten tarkalleen tarkoittaakaan.

Vaikka tulokset ovat enemmän kuin lupaavia, on matkaa maaliin vielä jäljellä. Samsung aikoo kuitenkin olla etulinjassa ja hyödyntää tekoälyä esimerkiksi puolijohdevalmistuksessa. Yhtiön mukaan tällä hetkellä piirejä voidaan testata saantojen näkökulmasta käytännössä vasta 3-6 kuukauden kuluttua alusta, kun piikiekko lopulta saadaan ulos tehtaalta. Hyödyntämällä tekoälyä ja erilaisia sensoreita sekä kesken valmistusprosessin tehtäviä tutkimuksia yhtiö uskoo, että saannot voitaisiin ennustaa tarkastikin jo verrattain aikaisessa vaiheessa.

Lähteet: Tom’s Hardware, Business Korea