Mnohé firmy a jejich vedení sází na AI bublinu naprosto všechno. A podřizují AI všechno, včetně obětování všech dosavadních vztahů s tradičními zákazníky. AMD je jedna z mála špičkových HW firem zabývající se TOP výkonným HW, která zase tak agresivní na poli AI není. A rozhodně mu neobětovala vše a hlavně nehodila své tradiční zákazníky přes palubu výměnou za extra příjmy navíc. I když mohlo a mnozí hlavně na investičních a akciových trzích, to považují za chybu, AMD by rozhodně mohla vydělávat na AI více, než vydělává. Stačilo by místo Ryzen a Radeon řešení vyrábět více a výhradně EPIC a Instinct produktů.

AMD však jasně říká, že jakkoliv je pro něj AI velmi důležité a prioritou, je to stále prostě jen další HPC oblast, na kterou je AMD dlouhodobě zaměřena. Firma však nadále zůstává současně zaměřena i na komplexní x86 platformu a své tradiční zákazníky z oblasti PC, konzolí a výpočetních spotřebních řešení. Takže RYZEN, Radeon a spotřebních SoC řešení všeho druhu se nemíní vzdát ve prospěch AI. Což však neznamená, že by se AMD nějak omezovalo v AI/HPC. Novou generaci ZEN 6 EPIC procesorů a Instinct Mi 400 série firma již ohlásila, přičemž reálně do prodeje dorazí v Q4 a následně se očekávají také ZEN 6 Ryzen procesory.

AMD ale rozhodně nechce sázet na AI vše a za každou cenu, protože zjevně tuší, že stávající situace je neudržitelná. I proto, že je jedna z mála firem, která skutečně ví a zná ty počty, tedy kolik HW je skutečně třeba, jaké jsou kapacity a náklady na jeho výrobu, a hlavně jaká je skutečná reálná využitelnost, tedy objem dostupných datacenter a náklady na jejich provoz atd. Prostě zná skutečná čísla a matematiku kolem nich. Vím dobře, že u AMD je spousta lidí, kteří značně pochybují nad udržitelností současného obecného stavu, protože spousta věcí kolem AI trhu prostě a jednoduše matematicky a finančně nevychází. Ne pokud by to mělo být udržitelné i do dalších let. AMD nicméně ví, že i kdyby AI bublina nebyla, o jeho vlastní EPIC a Instinc HPC HW nebude o nic menší zájem, než je nyní, protože na poli HPC nikdo nemá tak výkonnou a komplexní/kompletní platformu řešení. Alespoň po HW stránce.

AMD samozřejmě jako jiní však hledá, jak své postavení na poli HPC včetně AI zlepšit. Ideálně bez toho, aby to vyžadovalo stamiliardové investice s téměř jistou nenávratností. Ostatně AMD také své ZEN procesory nemá dnes lepší než Intel proto, že by do jejich vývoje a výroby investovalo více než Intel. Naopak, vznikají se stále menšími náklady než čipy Intelu, přesto jsou prakticky ve všech ohledech lepší. AMD prostě dlouhodobě dělá věci chytřeji a efektivněji (i proto, že prostě musí). A z toho důvodu se tak mnozí nediví, že se nyní rozhodlo pro zajímavou akvizici …

• AMD koupilo Taalas, který vyděsil AI firmy

Taalas je zajímavý startup, který ohlásil něco, čemu se mnozí smáli. Když to však firma předvedla v praxi s vlastním HW své konstrukce, u mnoha AI firem zavládlo zděšení. Pohon současní AI modelů je velmi náročný. Jak z hlediska HW, tak nákladů na energii apod. Samozřejmě problém s cenami a nutnou obří pamětí vše dnes umocňuje. Firmy utrácejí stovky miliard dolarů dnes bez návratnosti.

Zjednodušeně řečeno, jednotkou „výkonu“ u AI je tzv. token za sekundu. Čím více tokenů, tím více AI zvládne úkolů, dotazů apod. Náklady na ten token však ve skutečnosti stoupají (i díky cenám pamětí) a nové AI modely jsou navíc díky větší komplexnosti spíše náročnější. Tedy i na jednoduchou odpověď na jeden stručný dotaz uživatele, spotřebují desítky tokenů běžně. A ty jsou drahé.

Třeba univerzální řešení jako NVIDIA H200 dokáží nabídnout jen malé stovky tokenů za sekundu. Taalas ale přišel na způsob, jak s mnohem jednodušším HW s menšími nároky na paměť a spotřebu energie, nabídnout výkon rovnou v tisících tokenů za sekundu. Konkrétně nedávno demonstroval své vlastní čipové řešení Taalas HC1, který má sice čip o velikosti nemalých 815mm2, ale na starší 6nm výrobě. A vystačí si s normálními paměťmi. Proti aktuálnímu HPC řešení NVIDIA je celý systém mnohonásobně levnější na pořízení i provoz, ačkoliv je současně mnohonásobně výkonnější ve specifickém AI modelu. Zatímco aktuální NVIDIA systém nabídne kolem 300 tokenů za sekundu, Tallas v tom samém modelů zvládá skoro 17 000 tokenů za sekundu! Tedy 50x rychlejší. To je pochopitelně brutální rozdíl z hlediska praktického použití a ekonomiky kolem toho. Není divu, že mnohé AI firmy značně znejistily. Současně však byly a jsou kolem praktičnosti Taalas řešení pochybnosti.

Má své jasné nevýhody. Ten jeho čip je totiž cíleně postavený na míru a primárně pro jeden konkrétní AI model. Jiné věci buď neumí pohánět vůbec, nebo špatně. Nejde tedy v žádném případě o univerzální výpočetní systém, jaký nabízejí NVIDIA či AMD. Na druhou stranu, specifický HW pro specifické SW použití není nic nového, dříve se také určité kryptoměny těžily na univerzálních GPU, dnes existují mnohem lepší specializovaná HW řešení na míru.

V případě Taalas řešení je ten jeho přístup komplikovanější, protože AI modely se rychle vyvíjejí a mění. Tedy alespoň doposud. Současně je ovšem také pravdou, že vývoj nových AI modelů je stále náročnější (zejména na finance) a nové verze modelů navíc nejsou vždy nutně lepší než předchozí. A když, tak rozhodně to už nejsou generační skoky, jako dříve. Nabízí se tak otázka, zda náhodou udělat HW na míru jednomu AI modelu, který sice za rok až dva už bude zastaralý, ale přesto by mohl být stále použitelný, a zda to tedy není přeci jen pro řadu firem zajímavější než stavba datacenter s univerzálním ale násobně dražším HW. Tím spíše, že rozdíl mezi 300 a 17 000 tokeny za sekundu je sakra rozdíl, o nákladech na to nemluvě. AMD se tedy zjevně rozhodlo tuhle možnost prozkoumat a dohodlo se s Taalas na akvizici.

Kolik AMD za Taalas zaplatilo, se oficiálně neví. Pravděpodobně to ale budou jen nižší stovky milionů dolarů. Což by mohlo být velmi výhodné, pokud se Taalas řešení ukáže jako v praxi zajímavé. AMD nechá navíc Taalas stále fungovat víceméně samostatně jako doposud, nebude jej rozdělovat a pohlcovat do svých struktur. Má spíše produktově doplňovat jeho univerzální HPC řešení, tedy AMD nejspíše nabídne systémová řešení kombinující EPYC/Instinc a právě Taalas akcelerátory. S ohledem na nejistý vývoj cen pamětí a jejich dostupnost, nejisté financování vývoje dalších generací AI modelů, které si žádají více peněz než dosavadní, ačkoliv generační skoky schopností jsou menší, je přístup AMD a Taalas tedy zajímavý, protože zjevná optimalizace a zlepšení efektivity jsou tím, co nyní AI HW primárně potřebuje. A všichni ostatní také. AI nám dnes prokazatelně krade paměti, peníze i radost z technologií …