Další GPU krize? AMD a NVIDIA navyšují výrobu AI GPU. Ovlivní to dostupnost a ceny herních grafik!
Napsal Jan "DD" Stach   
Pátek, 04 srpen 2023
alt„Těžařskou“ mánii střídá mánie po „AI“. Oba výrobce mají obří objednávky pro svá HPC řešení.

 

 

 

 

Jak NVIDIA, tak AMD hlásí velký zájem o jejich HPC řešení pro AI, tedy hlavně výpočetních GPU. Honba firem za vývojem vlastních AI nástrojů a vůbec umělé inteligence jako takové, vyžaduje velmi specifický a extrémně výkonný HW. Takový však dnes nabízí pouze NVIDIA a AMD. První jmenovaná je v lepší pozici, protože svůj aktuální H100 představila už dříve a nyní jej začíná běžně dodávat, i když hlavní vlna dostupnosti bude až v dalších měsících.

To samé se dá říci i o AMD. Ta své nejnovější Instinct Mi300 HPC řešení, které v mnoha směrech ještě překonává výkonem NVIDIA H100 pokud jde o výkon díky čipletové konstrukci. Současně nabízí více variant, včetně verze s výkonným „integrovaným“ EPYC procesorem, nemluvě o tom, že AMD na rozdíl od NVIDIA má i vlastní komplexní HPC/serverovou platformu s nejvýkonnějšími procesory na světě. Nicméně zatímco NV již H100 dodává, AMD začne ve stejné míře dodávat Mi300 až v dalších měsících tohoto roku.

  • TSMC pod tlakem, omezením nejsou hlavní čipy samotné

Obě firmy tak musí výrazně navýšit objednávky kapacit, protože zájem o jejich AI HPC řešení dalece překonává všechny plány a očekávání obou. TSMC, které exkluzivně hlavní HPC čipy AMD a NVIDIA vyrábí, tak dostalo opravdu velké objednávky na N5/N4 kapacitách. Nicméně výrobní kapacity nejsou nafukovací. Určitým omezením je jednak produkce samotných čipů, což prý ale není takový problém, jako následná operace tzv. „pouzdření“, kdy TSMC tedy „lepí“ u něj vyrobené čipy (případně více čipů v rámci čipletu jako má AMD s Mi300) a k nim HBM paměti. Právě kapacity linek, které se o tuhle operaci starají, jsou omezené, stejně tak jiné elektro komponenty, která k produkci funkčních NVIDIA H100 a AMD Instinct Mi300 musíte také zajistit.

Jednoduše tak velká produkce takto náročných HPC řešení nebyla plánována, a tak nejde jen o ty hlavní čipy, které vyrábí TSMC, ale i o produkci dalších komponent, kterou však navýšit není a nebude „tak jednoduché“. TSMC tedy samo o sobě nemělo problém „dát“ AMD a NVIDIA další kapacity na svých N5/N4 linkách. Podle zdrojů kolem TSMC jen AMD objednalo pro svá Mi300 polovinu celkových kapacit, které má NVIDIA u TSMC pro produkci všech svých GPU, a to NV také zvedla objednávky kapacit. Asi tak už někteří tušíte, že to má jeden háček …

  • Výroba herních GPU bude omezována = vyšší ceny!

Ano, bohužel dopady „AI mánie“ už se projevují a budou v mnoha věcech podobné, jako měla „těžařská mánie“. Velkým rozdílem ovšem bude to, že produkce herních grafik je odsunuta na vedlejší kolej, protože až na výjimky se běžné herní grafické karty nehodí firmám, které to s AI opravdu myslí vážně. Jednoduše, herní grafiky nemají dost výkonu a hlavně paměti, kdy H100 nebo Mi300 jsou úplně jinde. Druhá věc je samozřejmě vlastní provoz těchto systémů, kdy jsou to HPC/serverové jednotky s tomu odpovídající infrastrukturou.

Některé menší firmy zkouší používat klasické herní grafiky, populární je AMD Radeon RX 7900 XTX díky tomu, že má vedle výpočetně velmi výkonného GPU, hlavně 24GB paměti. A je zdaleka nejlevnější podobnou kartou, kdy za cenu jedné 24GB RTX 4090, můžete mít prostě až dvě RX 7900 XTX, tedy 2x takový výkon a hlavně paměť. Jenže mnoho firem zjišťuje, že provoz takového systému s herními GPU není právě ideální proti HPC řešeni pro AI použití. Speciálně když systémy pro AI a strojové učení potřebují pro skutečně velké průmyslové použití tisíce těch GPU. Takže na rozdíl od těžařů, kteří klidně herní grafické karty používali (ba je dokonce preferovali), „těžaři AI“ chtějí specializovaná řešení, tedy řešení jako Mi300 a H100 s tomu odpovídajícími serverovými umístěními atd.

Jenže NVIDIA ani AMD jednoduše nemají dost kapacit výroby u TSMC pro všechny své produkty. Jednak pro čipy samotné, ale hlavně kapacity pro to náročné pouzdření a kapacity dodávek dalších komponent, která tahle HPC řešení potřebují. NVIDIA tak již prakticky zastavila produkci RTX 4000 grafických karet a neplánuje ji ve velkém rozjíždět, ani kdyby se výrazněji obnovila poptávka. Alespoň ne dokud bude trvat AI mánie a bude mít objednávky pro HPC GPU. Řídí také distribuci čipů pro RTX grafiky, kdy výrobci mohou dodat na trh do prodeje jen omezené množství karet v daném čase. U některých modelů tak je, i při té nízké poptávce, problém s dostupností, což udržuje ceny nahoře a udržovat bude. NVIDIA nemá žádný důvod produkci RTX 4000 navýšit, protože i přes ty absurdní ceny mnoha modelů, má na výrobě herních GPU zanedbatelnou marži ve srovnání s produkcí H100, které jedno jediné vychází na desítky tisíc dolarů!

Takže pokud si máte jako NV vybrat, zda vyrobit na N4 ze stejně drahého kusu křemíku třeba 50x GPU na kartu za 1200 dolarů kus (a zákazníci=hráči držkují, že je to předražené), nebo z toho samého kusu křemíku nasekat 25x GPU na HPC „karty“ za 40 000 dolarů (a zákazníci vás uhání, že chtějí další), volba je celkem snadná. Tím spíše, že ten zájem o AI HPC produkty v tuto chvílí překonává prostě nabídku a už stávající objednávky bude NVIDIA vyřizovat hodně dlouho.

AMD je na tom podobně. Poptávka po jeho Mi300 trhla všechna očekává a plány. AMD je nadšené, protože za normálních okolností by zájem o jeho výpočetní HPC řešení rostl pomalu proti NVIDIA, kdy ta má výhodu SW platformy a nechuti firem a vývojářů učit se něco jiného než CUDA. AI je však tak velké lákadlo, že firmy i vývojáři jsou ochotni s AMD pracovat a obejít se bez CUDA. Zájem je tak velký, že firma musela změnit interní plány. Produkce HPC GPU řešení Instinct dostala stejnou prioritu, jako výroba EPYC procesorů. I v tomto případě to také postihne produkci herních GPU Radeon, které jsou, speciálně ty velké, nejméně finančně výnosné pro AMD ze všeho, co vyrábí. Zabírají hodně místa, a hlavně v případě čipletových řešení RX 7900 série, také ty cenné výrobní kapacity na pouzdřících linkách. AMD tak změnilo plány, pokud jde o nadcházející RDNA 4 generaci, která bude podle nejnovějších spekulací upozaděna, a naopak firma začíná veřejně mluvit o urychlení Mi400, které se tak bude snažit představit už ke konci příštího roku. Už Mi300 řešení je přitom extrém, kdy jako čiplet tvořený několika „GCD“ a paměťovými HBM3 čipy, má přes 1000mm2 křemíku! Není se tak co divit, že také AMD bude muset omezit produkci některých jiných svých řešení.

  • Herní GPU jsou odsunuty na vedlejší kolej?

NVIDIA už svými kroky jasně dala najevo, že výrobu herních GPU minimalizuje jakkoliv, pokud bude kvůli AI produktům muset. Stále má sice v plánu RTX 5000 generaci, ale za současné situace už dávají smysl zprávy, že firma odložila vydání novinek až nejméně do roku 2025 a současně zrušila plány s vydáním vylepšených RTX 4000 karet včetně RTX 4090 Ti a „SUPER“ série. Jinými slovy se pohodlně usaďte současné RTX 4000 karty se současným výkonem a hlavně cenami, zde zůstanou velmi, velmi dlouho. A jejich ceny klidně mohou i růst. Nějakých RTX 5000 novinek se evidentně dočkáme nejdříve tak za 2 roky! A to jen pokud to AI mánie dovolí …

Situace u AMD je komplikovanější. AMD totiž nemůže, na rozdíl od NVIDIA, hodit herní GPU přes palubu stejným stylem. Jednak kvůli SONY a Microsoft a jejich konzolím, a pak AMD je hlavně v jiné pozici než NV. AMD je výrobce komplexní PC platformy, takže Radeon grafiky ke svým RYZEN procesorům a platformách prostě potřebuje mít. A musí mít. Pravda, nemusí být nutně ve všech segmentech. Každopádně žádné zastavení nebo výrazné omezování výroby Radeon RDNA 3 nehrozí. Bohužel, plány se změnily, pokud jde o RDNA 4, které sice dorazí, ale ne v podobě, jaké mělo. A důvodem není jen nastalá situaci kolem AI HPC produktů Mi300/400.

Jak a co se kolem Radeon RX 8000 změní? Na to se podíváme v dalším článku. Bohužel příznivce výkonných herních GPU vůbec nepotěším.

 

AUTOR: Jan "DD" Stach
Radši dělám věci pomaleji a pořádně, než rychle a špatně.

Starší články


Komentáře
Přidat Nový
lukeDD [Zobrazit profil] [Poslat zprávu] 2023-08-06 22:31:50

Som rád, že som zobral Sapphire Nitro+ RX 7900 XTX. Na nejaký čas si s ňou vystačím.

Mám však obavy ohľadne herných notebookov je možné, že niektoré modely s 4080/4090 Laptop nebudú vydané?
IAczech [Zobrazit profil] [Poslat zprávu] 2023-08-07 19:03:00
avatar
Taky jsem koupil ještě za rozumný peníz RX 7900XT a na 4K si ještě roky vystačím, takže domácí hraní pro důchodce zajištěno a počkáme co se vyvine Navíc jsem si teď koupil ASUS ROG ALLY a to je od AMD majstrštich hardware, tahle malá a přenosná věc za 700 EURO je výkonnější něž notebook za 700 EURO (zrovna jsem viděl porovnání na YT). Mám to doma cca týden a na hraní do postele nebo na chatě, kde to připojím na telku přes dock je neuvěřitelný. Na 15W spotřebě to tahá neuvěřitelný výkon, FORZA 4 FHD na 60 FPS na HIGH detaily, Diablo 4 na HIGH 55-60FPS, ale to už se to musí nakrmit 30 až 35W, ale je to neuvěřitelně výkonné, dá se to nakrmit i z přenosného soláru . Čekal jsem na nějakou konzolu, která bude otevřená platforma s Windows a tohle je přesně ono. Prostě to co AMD vytvořilo za kus křemíku je trošku zázrak.
CZviper [Zobrazit profil] [Poslat zprávu] 2023-08-07 08:56:39

Takže velká zlá Nvidia svedla na scestí i hodné AMD. Žádné highend karty RDNA4. Do pekla s Lisou!
Rizek [Zobrazit profil] [Poslat zprávu] - Zákony trhu 2023-08-07 11:21:24

Kdy už konečně lidé i tady pochopí, že všechno je věcí poptávky a nabídky. Na hráčích firmy nikdy nevydělají. Kdežto dříve na těžbě a nyní na HPC pro AI ano. prostě tak to je. takže minoritní segment se zcela pochopitelně utlumí a vrhne se co nejvíce úsilí, peněz a energie na to místo trhu, kde je poptávk největší a výdělek slibuje násobný oproti klasickým herním grafikám. To je celé, tak funguje kapitalismus…
Nějaké ublížené nářky je nijak neovlivní…
ondris83 [Zobrazit profil] [Poslat zprávu] 2023-08-07 13:19:41

samozrejme ze i na hracich vydelaji, vsak NV i Ati(AMD) vyrostli prave na hracich. jen profi segment holt nese vice..
IAczech [Zobrazit profil] [Poslat zprávu] 2023-08-07 18:51:33
avatar
Joo to ještě byla, ale doba, kdy TOP grafika ti dělala reklamu. Dneska kdo si kupuje individuálně grafiku ? Moc lidí to není. Prostě koupí celý set (XBOX, PS) a více je nezajímá, nezajímá je co to pohání, hlavně když to jede. Doba kdy každý věděl jak je jaká grafika výkonná ve své třídě a znal výrobce jejich plusy a mínusy je již dávno pryč, proto pro firmy upadá význam individuálních grafických karet a jejich význam na reklamu.
darksicek [Zobrazit profil] [Poslat zprávu] 2023-08-08 12:30:57

To není tak úplně pravda. Samozřejmě počet typických odlschool PC hráčů je víceméně stále stejný a možná spíš přibývají i noví.
Ten optický rozdíl je tvořen tím, že hraní jako takové se masově rozšířilo, a mnohonásobně víc přibylo právě těch konzolistů.
S oblibou říkám, že jednoduší lidé potřebují prostě jednoduchá řešení.
Spacekd [Zobrazit profil] [Poslat zprávu] 2023-08-08 15:58:43

Souhlasím až na ten konec, za mě, jednoduché haní nepotřebuje složité řešení.
ondris83 [Zobrazit profil] [Poslat zprávu] 2023-08-08 14:06:33

v dobach pred 15-20 lety se prodavalo mnohonasobne vic konzoli nez pc, herni pc bylo jen pro nerdy a zdaleka ne tak dostupne jako ted a notebooky minimalne. a ps2 i prvnich xboxu se prodalo nekolikrat vic nez soucasnych konzoli, i vice nez poslednich dvou generaci konzoli dohromady.
schali [Zobrazit profil] [Poslat zprávu] - vtip 2023-08-08 14:52:44

Hehe, lepší vtip jsem dlouho neslyšel.
YORGi [Zobrazit profil] [Poslat zprávu] 2023-08-07 14:16:35

A máme tady AI horečku...a stejně jako za zlaté horečky nejvíce vydělají prodejci krumpáčů, v tomto případě AMD/Nvidia.

Ted se bude pár let cpát všechno do této "AI těžby" a všechno bude s nálepkou AI powered aby se pak zjistilo, že nás tyto opisovací databáze vydávané za AI k opravdové AI ani nepřiblížily...a nebo se něco zlomí a bude vše jinak, kdo ví.
Každopádně se držte svých současných konzolí a grafik, jejich cena asi poroste
ondris83 [Zobrazit profil] [Poslat zprávu] 2023-08-07 15:18:22

vzhledem k poptavce ma mit NV vyrobeno rtx4000 karet na rok dopredu. soucasny grafiky na cenach neporostou, problem by byl jen kdyby poptavka nejak extra vzrostla, coz asi nehrozi ani se starfieldem. spis pak bude problem s nejakym navysenim vykonu v dalsich generacich a kdy vubec budou, protoze to vypada ze se grafiky zaseknou dlouho na 4/5nm, kde vyssiho vykonu bez navyseni spotreby jen tak nedosahnes (a proto uz dost mozna AMD highend uplne odpiskala), a HPC segment zabere veskere 3nm a lepsi kapacity.
Martinp79 [Zobrazit profil] [Poslat zprávu] - rozdíl bych viděl 2023-08-07 15:26:15
avatar
Rozdíl bych viděl v tom, že těžba crypto coinů potřebovala grafické karty jako takové. Ai akcelerátory nejsou doslova grafická karta a zabírají jen místo pro výrobu.
Další věc je, že zatímco těžba crypta byla často platformě nezávislá. Záležitosti kolem Ai velice často sází jen na architektůru nVidia.
dafcz [Zobrazit profil] [Poslat zprávu] - Článek na vodě 2023-08-07 19:37:38

Předpokládám, že když tu není uveden zdroj tvrzení v článku, že to tedy bude opřeno a relevantní data, ani zdaleka....
Jen pár věcí co "malinko" nesedí.
"...Poptávka po jeho Mi300 trhla všechna očekává a plány. AMD je nadšené,..."
No nevím z čeho je AMD nadšené, ale jejich výhled na Q3 nic takového nepotvrzuje, je to jen 3% nárůst tržeb Y/Y resp. 7% vůči Q2/2023, to nevypadá na to, že by "najednou" byl zájem o jejich výpočetní karty.
Můžete namítat, že vyrobí výpočetní karty na úkol méně lukrativních jiných produktů, to by znamenalo, že se výrazněji zvýší předpokládané marže, jenže ani to AMD nepotvrzuje, AMD čeká že bude mít hrubou marži 51%, již ve Q2 ale byla 50%.
No řekněme si to jak to je, výpočetní karty prostě AMD má, ale prakticky vyklidilo trh, před 2 lety měla nVidia cca 80% trhu, letos je to 95%. Řešení nVidie ovládalo jednoznačně trh a nevypadá to, že by ho AMD jakkoliv mělo ohrozit.
Celkově je divize serverových produktů dost v krizi, meziročně klesl zisk o 69% a tržby o 11%. Vzhledem k tomu co nabízí Intel za CPU produkty v této oblasti je to pro AMD naprostá katastrofa. Když už se nedaří v GPU segmentu, tak třeba ty Epyc CPU, tak zase nic....

"AMD je výrobce komplexní PC platformy, takže Radeon grafiky ke svým RYZEN procesorům a platformách prostě potřebuje mít. A musí mít"
Ano na papíře je AMD výrobce komplexní platformy, vzhledem k tomu, že dedikované grafiky Radeon v tomto roce výrazně zaostávají za prodeji nVidie (i s ohledem na pokles trhu), tak je to jen teoretická fráze, že AMD má komplexní platformu, když si vezmete podíl nVidie na herních grafikách, tak je to jasně vidět. Otázkou je co vůbec s Radeon divizí bude, při cca 10% podílu na trhu to nemá ekonomický smysl. Meziroční propad zisku je 28% a je velmi pravděpodobné, že většinu zisku tvoří produkty pro konzole (AMD to ale ve finančních přehledech nerozděluje, proč asi :-)
Tvrdím už několik let, že AMD nemá vysloveně špatné produkty, ale má nekompetentní obchodní a marketingovou divizi. Za posledních pár let vyklidilo pozice ve velmi lukrativní oblasti - GPU pro datacentra, noteboocích kde jejich CPU+GPU se hledají pod mikroskopem, méně lukrativní oblasti - GPU pro spotřebitele. Ryzeny se propadají tuším 5 kvartálu o desítky procent hlouběji, než samotný trh. A že má konzole? Myslím si, že nVidii to je úplně jedno :-)
Držím AMD palce, ale obávám se, že obchodníky tam za ty léta nikdo nenabral. Můžeme si o nVidii myslet co chceme, ale umí výborně B2B business!
potooczech [Zobrazit profil] [Poslat zprávu] 2023-08-07 23:10:37

Když nové herní grafiky prakticky nikdo nekupuje, pak není moc důvodů se na ně zaměřovat a vyrábět je. Navíc v ostatních sektorech jsou mnohem vyšší marže, jak v dedikovaných grafikách.
Pouze registrovaní uživatelé mohou přidat komentář!