AMD:n ja Intelin alkuvuosi alkoi synkissä merkeissä, mutta hieman eri aikataulua omissa neljänneksissään käyttävä NVIDIA pysyi reilusti plussalla. Yhtiön fiskaalivuoden 2024 ensimmäinen neljännes päättyi 30. huhtikuuta.
NVIDIA tahkoi tulosta fiskaalivuotensa kärkeen peräti 2 miljardia dollaria, mikä oli 44 % edeltävää neljännestä ja 26 % vuoden takaista parempi. Myös 7,2 miljardin dollarin liikevaihto oli selvät 19 % plussalla edeltävään neljännekseen nähden, mutta vuoden takaiseen nähden takapakkia tuli 13 %. Yhtiön kate noudatteli liikevaihdon pelimerkkejä ollen 64,6 %:ssa 1,3 prosenttiyksikköä parempi kuin fiskaalivuoden 2023 viimeisellä neljänneksellä mutta 0,9 prosenttiyksikköä fiskaalivuoden ensimmäistä neljännestä pienempi.
Tarkemmin tuloksiin sukeltaessa liki joka osasto paransi liikevaihtoaan edeltävään neljännekseen nähden, ainoana poikkeuksena oli 8 % takapakkia ottanut OEM & IP. Datakeskuspuoli kasvoi 18 %, pelipuoli 22 %, ammattilaispuoli 31 % ja autopuolikin yhden prosentin verran. Vuoden takaiseen nähden tilanne oli kuitenkin jotain ihan muuta: datakeskusosasto kasvoi siihenkin nähden 14 % ja autopuoli raketoi yli kaksinkertaiseen liikevaihtoon 114 % kasvulla, mutta peliosasto romahti 38 %, OEM & IP 51 % ja ammattilaispuoli jopa 58 %.
NVIDIA latoi kovia odotuksia myös tulevalle fiskaalivuoden toiselle neljännekselleen. Yhtiön uskoo tekoälyjunan vetävän yhtiön liikevaihdon peräti 11 miljardiin dollariin, mikä tarkoittaisi jopa 53 % kasvua ensimmäiseen neljännekseen ja 64 % viime fiskaalivuoden toiseen neljännekseen nähden. Yhtiö uskoo H100-kiihdytinten kysynnän myös jatkuvan kovana hamaan tulevaisuuteen. Vastatakseen kysyntään NVIDIA kertoo hankkineensa lisätuotantoa vuoden jälkimmäiselle puoliskolle.
NVIDIAn olosuhteisiin nähden erinomainen tulos yhdistettynä kovaan ennusteeseen tulevasta siivitti myös yhtiön osakkeen arvon yhdellä sykäyksellä peräti 20 % ylöspäin. Yhtiön markkina-arvo on nyt 939,29 miljardia ja jos meno jatkuu samanlaisena, tulee se rikkomaan pian biljoonan dollarin rajapyykin.
Lähde: NVIDIA
Ai se vaan porskuttaa…tuleekohan Ai:sta pian uusi ”kryptovaluutta” Gpu:ille?
Eli suomeksi Nvidian GPU:t on sikakalliita siksi että Nvidia repii niistä jäätävää katetta.
Tällä hetkellä vaikuttais siltä. Kun katselee tuota Nvidian osakkeen arvostusta maksimeilta historian kyllä osoittanut monen muunkin osakkeen kohdalla että ATH ei ole mikään takuu tulevasta arvostuksesta. Huipulla tuulee varsinkin kun kilpailijat on Google says its AI supercomputer is faster, greener than Nvidia A100 chip on kannoilla. Tuo A100 kun taitaa olla kuitenkin vielä monelta osin aika geneerinen piiri vs customoitu ASIC joita kilpailijat voi tuottaa kohta murto-osalla nvidian vastaavien hinnoista ja jotka oletetusti suoriutuvat tehokkaammin (ovathan sentään asic piirejä). Nvidian kannalta ei myöskään vaikuta hyvältä se että Gaming puolen asiakkaisiin on poltettu siltoja järjestelmällisesti. Tämä voi hyvinkin ampua vielä takaisin. Nykyisessä alati muuttuvassa pellemaailmassa kun ei tunnu mikään olevan varmaa ja kiveen kirjoitettua.
Onneksi LLM-jutut vaativat paljon paikallista muistia. Ei ole pelkoa että 8-16GB kuluttajakortit katoaisivat tuohon käyttöön, kun jo nyt tekee tiukkaa normaalin H100n 80GB muistlla ja NVIDIA julkisti jo H100 NVL:n jossa on kaksi H100-korttia yhdessä ja molemmissa 94GB eli yhteensä 188GB muistia, nimenomaan LLM-AI juttuihin.
Joku saattaisi ehkä devauspuuhastelussa käyttää 24GB 4090-korttia mutta moiset ovat liian pienimuistisia että niistä lähdettäisiin rakentamaan jotain isoja konefarmeja. NVIDIA myös todennäköisesti pitää kiinni siitä että 24GB ei ylity kuluttajakorteissa jotta voivat jatkaa hyvien katteiden farmausta ammattikorteista, erona muistin määrä.
Ei tule, geneeriset GPU:t, joihin on vielä liitetty ihan liianvähän muistia (esim 24Gt 4090) eivät sovi oikein AI laskentaan. Siinä tullaan menemään hyvinkin nopeasti sitävarten tehtyihin piireihin, jotka pieksävät yleispiirit reippaasti..
Pelipuoli meni selvästi alaspäin (q1 23 vs q1 24) ja kun nyt alkaa olla 4xxx sarjan kortit julkaistu ja suuressamäärin myös ostettu, niin myynnit sakkaavat 5xxx korttien julkaisuun, paitsi jos hintoja lasketaan, jolloin kate pienenee..
Suurin voitto ja marginalit tulevat konesalipuolelta nvidialle. Konesalipuoli oli Q1:lla tuplat versus kuluttajamyynti, 2MRD vs. 4MRD. Q2:lle ennustettu 4 miljardin lisä liikevaihtoon tulee pääasiassa konesalipuolelta niin konesalipuoli on lienee jotain 7.5MRD ja kuluttajamyynti 2.5MRD Q2:lla.
Spekuloin kuluttajahintoihin liittyen, että koska nvidia saa paremman katteen konesalipiireistä ja koska konesalipiireille tuntuu olevan rajattoman suuri kysyntä niin nvidia keskittyy konesalipiirien tekemiseen. Kuluttajapiirejä ei kannata myydä halvemmalla, kun niitä on vain määrä X tarjolla ja kapasiteetti menee konesalipiireihin. Jos konesalipiirit ei veis kapasiteettia niin nvidialla olisi isompi paine tehdä ja myydä enemmän kuluttajapiirejä mikä johtaisi hinnanalennuksiin.
Nvidian bisnes on todella syklistä. Jännä nähdä kauanko AI boom sykli kestää. Nyt revitään kaikki piirit käsistä, jossain kohtaa löytyy uusi normaali miss piirien myyntimäärät tasaantuvat. AI on kyllä ihan todellinen juttu eikä täysin spekulatiivinen lottopeli kuten useimmat/kaikki kryptot.
Kyllä itsekin ennustan, että AI on koko ajan kasvava bisnes.
Nyt tekoäly on tullut jos powerpointiin, exceliin, edge selaimeen jne., puhumattakaan mahdollisuuksista kulutuselektroniikan saralla. Ensi alkuun nämä chatGPT ja vastaavat ovat ”se juttu” mutta pienet sovellus ja laitekohtaiset tekoälyt ovat se, jossa iso vallankumous on vasta aluillaan.
Joo, tämän takia olen itsekin vähän skeptinen nVidian nykyisestä osakekurssista. Siihen kun on hinnoiteltu bisneksen kasvu monikymmenkertaiseksi nykyiseen verrattuna, mikä kuulostaa AI-huumasta huolimatta aika hurjalta. Jossain vaiheessa se kun todennäköisesti tasaantuu.
Ehkäpä Intel sitten täyttää tyhjiön jos niin käy, kukapa tietää.
Isambard 3 To Put Nvidia’s “Grace” CPU Through The HPC Paces
http://www.nextplatform.com
Arvio 95%:n osuudesta CB Insightsin:
Nvidia: The chip maker that became an AI superpower
http://www.bbc.com
Osalle noista yrityksistä on hankalaa, kun kilpailu konesalipuolella ei enää ole tflops myyntiä. Pitäisi olla konesalin kokoinen ratkaisu muttereista optimoituun softaan. Nvidialla on melko mojova etumatka, kun ne on satsanneet softan optimointiin ja kontteihin laittamiseen ja konesalin kokoisiin referenssiratkaisuihin vuosia(dgx laatikot)
Epäilemättä nvidian markkinaosuus pienenee samalla kun absoluuttinen dollarimääräinen myynti kasvaa. Nousuvesi nostaa kaikkia laivoja.
Nvidia ja MS tekevät isosti yhteistyötä. Ei pidä aliarvioida sitäkään, että kuluttajalaitteilla voi koodata samaa pinoa kuin konesalissa. Monelle opiskelijalle, tutkijalle ja työntekijällekin arvokas, juttu että sama softa toimii omassa läppärissä, pöytäkoneessa ja pilvessä. Toki pienemmissä koneissa ajetaan pienempiä datasettejä, mutta kehittää voi lokaalisti.
Nvidia and Microsoft Partner on Generative AI Solutions for Enterprise and Consumers | The Motley Fool
http://www.fool.com
Tesla on ehkä pisimmällä nvidian korvaamisessa omalla ratkaisulla. Dojo-piirit ollut teslalla vuodenpäivät olemassa. Dojo ei ?vielä? perffaa vielä sillä tavalla, että tesla olisi lopettanut nvidia ostoksia.
Juu ja Amazon, Google yms. myös ostelevat uutta H100 rautaa.
CUDAn etumatkaa en osaa arvioida mutta OpenAI ja kumppanit taitavat kyllä kehitellä haastajia sillekin (Pytorch, Triton).
Ei tässä ihan lyhyellä tähtäimellä varmaan ole pakka sekoittumassa radikaalisti, mutta pari GPU sukupolvea eteenpäin ja kukaties missä mennään.
OpenAI käyttää nvidian rautaa. Nvidian optimointimagiikka on esimerkiksi pytorchin ja raudan välissä miten se suoritus optimoidaan klusterin kokoiseen ratkaisuun. Se vaatisi aika paljon, että OpenAI vaihtaisi nvidia klusterin johonkin toiseen valmistajaan. Jos aikoo saada saman suorituskyvyn irti kuin nvidiasta niin siinä on iso määrä softaa optimoitavana. Eikä pelkkä triviaali toimii hyvin yhdellä gpu:lla riitä, kun optimointi tarvii tehdä konesalitasolla myös.
Paljon kertoo se ketkä on ajaneet mlperffin ja mitä suorituskykyä sieltä löytyy.
Nvidian enterprise sdk/rapids myös ihan jotain muuta kuin neuroverkkoa. Pandasin vektorioperaatiota, apache spark:ia, sisääntulevan datan hierontaa parempaan formaattiin jne. Rapids koodit taitaa löytyä github:sta tms. Kytkee eri python apien/frameworkkien implementaatiota gpu kiihdytykseen useiden eri cuda kirjastojen avulla.
RAPIDS | GPU Accelerated Data Science
rapids.ai
AI Enterprise Suite | NVIDIA
http://www.nvidia.com
GPU kiihdytys alkaa olemaan aikalailla softapeli. Pelkkä rauta/flopsit on hyödytöntä, jos yleisesti käytetyt kirjastot eivät ole kytketty skaalautuvaan gpu kiihdytykseen. Skaalautuminen mieluusti koko konesaliin eikä vain muutamaan gpu:hun, jotka ovat kiinni yhdessä pömpelissä.
Ei, vaan siis sitä että niitä ei kannata myydä edellisemmin, ja että AMD ei kunnolla kykene kilpailemaan Nvidian kanssa. Ja valitettavasti Intelistä ei juuri ole edes puhuttavaa GPU markkinoilla.
Sehän on kytköksissä tuohon datakeskuspiirien kovaan kysyntään. Ne ytimet tulee samanlaisista kiekoista riippumatta lopputuotteesta. Asiaan ei auta että TSMC on saanut Intelistä uuden ison asiakkaan. Intel ei kai vielä paljon osta TSMC:ltä, mutta eiköhän sekin kasva.
Periaatteessa joo, mutta ei ihan kuitenkaan: AD-sarjan pelipiirit tulevat TSMC:n 5nm linjastolta ja GH-AI-kiihdyttimet tulevat 4nm linjastolta.
TSMC 4N ilmoitti Nvidia molemmille julkkareissa. Muistitko väärin vai onko joku nyanssiero sitten vielä lisäksi?
NVIDIA Hopper Architecture In-Depth | NVIDIA Technical Blog
developer.nvidia.com
NVIDIA Delivers Quantum Leap in Performance, Introduces New Era of Neural Rendering With GeForce RTX 40 Series
nvidianews.nvidia.com
Näköjään pitäisi jättää techpowerupin gpu-database käyttämättä.
Mutta kai noihin konesaleihin menee kaikkea muutakin ihan Nvidialta? Ainakin Epyc tulee tuosta samaisesta 5 nm prosessista, mikä on vallannut hyvin alaa Inteliltä. Keskustelun loppupuolella on menty noihin täsmällisempiin malleihin, mä en viitannut mihinkään erityiseen.
Kyse on "NVIDIAn custom prosessista" (tosin ei tietoa onko erot oikeasti sen isompia, kaikki isot kustomoi noita enemmän/vähemmän), joka kuuluu "5 nanometrin perheeseen" mihin kuuluvat myös N5 ja N4.
Nanometreistä ei pitäisi puhua ollenkaan 😐
Ensisijaisesti Nvidian tuotteet kilpailevat keskenään valmistuskapasiteetista.
Se on ostanut X-piikiekkoa valmistettavaksi seuraavan kvartaalin aikana ja saa itse päättää miten ne piikiekot jaetaan eri tuotteiden kesken -> yksi kiekko enemmän AD103:sta on yksi kiekko vähemmän GH100:sta jos ne tulevat samalta linjalta.
On tietysti mahdollista että nvidia on teettänyt maskit niin, että kiekon keskeltä tulee vaikka 4 ydintä GH100:sta ja sen ympäriltä pari AD103:sta ja reunoilta jotain AD106:sia tjsp. Mutta yleensä nuo tehdään yksi piiri -> yksi maski jolloin tuotantomiksiä on helpompi säätää tarpeen mukaan.
Sinänsä kyllä isojen piirien hukkapaloihin kannattaisi valottaa pienempiä piirejä.
Ei se sen enempää ole kuin vaikka Intel 7, 4 20A jne, tai Samsung 5LPP, 4LPE, 3GAE, 3GAP ja mitä näitä on
(ja jokainen noista puhuu iloisesti nanometreistä samaan aikaan valitettavasti)
Ei se sen enempää ole kuin vaikka Intel 7, 4 20A jne, tai Samsung 5LPP, 4LPE, 3GAE, 3GAP ja mitä näitä on
(ja jokainen noista puhuu iloisesti nanometreistä samaan aikaan valitettavasti)
Ei se sen enempää ole kuin vaikka Intel 7, 4 20A jne, tai Samsung 5LPP, 4LPE, 3GAE, 3GAP ja mitä näitä on
(ja jokainen noista puhuu iloisesti nanometreistä samaan aikaan valitettavasti)
Ei se sen enempää ole kuin vaikka Intel 7, 4 20A jne, tai Samsung 5LPP, 4LPE, 3GAE, 3GAP ja mitä näitä on
(ja jokainen noista puhuu iloisesti nanometreistä samaan aikaan valitettavasti)
Ei se sen enempää ole kuin vaikka Intel 7, 4 20A jne, tai Samsung 5LPP, 4LPE, 3GAE, 3GAP ja mitä näitä on
(ja jokainen noista puhuu iloisesti nanometreistä samaan aikaan valitettavasti)
Ei se sen enempää ole kuin vaikka Intel 7, 4 20A jne, tai Samsung 5LPP, 4LPE, 3GAE, 3GAP ja mitä näitä on
(ja jokainen noista puhuu iloisesti nanometreistä samaan aikaan valitettavasti)
nVidia on palkannut hurjasti lisää porukkaa viimeisen 3 vuoden aikana joten hieman mietityttää miten tuo -30% operatiivisten kulujen laskeminen on oikeasti saatu aikaan? Myymällä varastot pois ja ostamatta mitään sisään?
Tuota temppua ei pysty montaa kertaa tekemään.
2022 oli 1.3miljardin kertaerä opexissa. 1.3 miljardia tuli arm kaupan terminoinnista. Nvidia maksoi "acquisition termination cost:in" mikä on ilmoitettu operation expenses:in alla. 2023 verrokkikvartaalissa ei tuollaista kertaerää ole ja sen vuoksi näyttää opex 1.3miljardia pienemmältä. Ei ole tehty mitän silmänkääntötemppuja tuloksen parantamiseksi.
Nvidiassa on monia hyviä puolia. Rautaa on saatavissa mm halpoina näyttiksiä, jotka sopivat testailuun. Ja samoin sitä on olemassa paljon myös tehokkaina, kalleina kokonaisuuksina, joihin pohjautuvaa aikaa on hyvin vuokrattavissa isompiin testeihin.
Jos Nvidia ei koomaile pahasti ja esim yritä edetä liian ylesraudalla, jolloin erikoistunut rauta ajaa ohi pahasti, niin kilpailu tulee olemaan hyvinkin hankalaa… Asia nähdään hyvin, kun katsotaan vaikka, miten Intel taas kerran on yrittämässä GPU rintamalla ja kompuroi pahasti, kykenemättä haastamaan kunnolla edes AMD:tä, saati sitten Nvidiaa..
Toki googlella, metalla ja MS:llä on rahaa ja resursseja, mutta jos on liikaa jäljessä ja Nvidia ei seiso paikallaan, niin raskasta tulee olemaan kilpailu..
——-
Jos mietitään näyttisten tensor ytimien haitat ja hyödyt, niin varmasti on Nvidian kanssa kallistunut voimakkaasti hyötypuolelle ja on sitä edelleen, ainankin myös ensi GPU sukupolvessa..
Hopper Next luvattiin 2024:lle. Kahden vuoden sykli jatkuu konesalipuolella
Yhden 8x hopper gpu ratkaisun hinnaksi sanottiin 200k$ sivulauseessa
Virtuaaliset tehtaat ja robotit omniversessä vaikuttaa hittituotteelta.
Yrittävät kovasti generatiivista ai:ta tunkea joka väliin. Ihan kiva esimerkki videopuhelusta missä ai:n avulla sai 3d pään + eri kielen + pyhesynteesin jokaiselle osallistujalle.
Mediatek tekee arm+nvidia gpu ratkaisua automotive puolelle. Mediatekin ratkaisun(kin) päällä toimii nvidian drive os + middlewaret(driveworks jne).
katso liitettä 1108067
Musta kyllä kuulostaa että nyt olisi hyvä aika myydä ainakin osa osakkeista pois…
Mä oon myynyt viime syksystä lähtien nousevaan kurssiin. Vaikka myy pää märkänä niin nvidian dollareina mitattu määrä salkussa vain kasvaa. Tänään myin 300 kipaletta. Seuraava täky tarjolla 420:ssa.
Näin teki. Onkohan tuo nyt kaikkien aikojen arvokkain vai toiseksi arvokkain puolijohdefirma?
katso liitettä 1108084
Nvidia touches $1 trillion market cap as chipmaker rides AI wave
finance.yahoo.com
Nvidia’s (NVDA) market cap touched $1 trillion on Tuesday, making the company the first chipmaker to hit such a valuation
Ohhoh, olet kyllä tehnyt tuolla hyvää tiliä. Onnittelut!