AMD partnerům a novinářům oznámilo, že do softwaru bude investovat třikrát více prostředků než doposud. Prvním krokem přitom bylo oznámení akvizice finské společnosti Silo AI v hodnotě 665 milionů dolarů. Cílem je dohnat konkurenční Nvidii, která se na softwarový ekosystém vsadila v minulosti a teď sklízí ovoce.
Rekordní tržby i zisk a masivní růst akcií způsobených boomem AI totiž nestojí jen na tom, že má Nvidia špičkový hardware. AMD jej zvládne vyrábět také. To, proč slízne veškerou smetanu, je hlavně záležitostí softwarové platformy CUDA. Nvidia před 18 lety neměla vlastní CPU, ale uvědomila si, že specializované aplikace mohou běžet i na GPU. A co víc, možná tam při podobné spotřebě poběží rychleji díky výkonnějším pamětem a masivní paralelizaci.
A tak postupně vybudovala celou řadu vývojářských nástrojů a knihoven pro to, aby lidé mohli spouštět kód C, C++, Fortranu, Pythonu, MATLABu apod. na běžných domácích/herních grafických kartách i specializovaných akcelerátorech. Z počátku se CUDA uplatňovala hlavně ve vědeckých výpočtech, do domácností pak promluvila především skrz video. Přibývalo nástrojů pro odšumování nebo upscaling, dnešní střižny pak mohou na GPU celé video vyrenderovat. A protože CUDA měla bohatý softwarový ekosystém s dobrou podporou výrobce, a navíc běžela na rozličných typech karet, začali ji všichni používat.
AMD zatím sbírá drobky
Ve vědě a práci s videem se však netočí velké peníze, takže dopad na peněženku Nvidie nebyl tak zásadní. Průlom přišel s těžbou kryptoměn a druhý teď s velkými jazykovými modely nebo jinými neuronovými sítěmi, které pohánějí všechny ty ChatGPT, Copiloty apod. Prakticky všechny firmy automaticky sáhly po akcelerátorech od Nvidie. Ne, protože by byly o tolik výkonnější, ale protože se pro ně lépe programuje. Až jejich nedostatek a s tím spojený ohromný růst cen způsobil, že se firmy začaly obracet na konkurenci, případně si jako Google, Microsoft nebo Meta začaly vyvíjet vlastní čipy.
Krok AMD tak přichází spíš pět minut po dvanácté, protože očekává, že posílení softwarového ekosystému potrvá tři až pět let. Restart už ale začal minulý rok. To firma koupila startupy Mipsology a Nod.ai specializující se na vývoj AI aplikací. Mnohem větší význam však bude mít v úvodu zmíněné Silo. Finská společnost se sama tituluje jako největší soukromá evropská laboratoř na výzkum a vývoj AI. Tvoří aplikace a služby pro společnosti jako Allianz, Philips, Rolls-Royce nebo Unilever.
Superpočítač LUMI běží na 962 496 procesorouvých jádrech Epyc (Zen 3) a 10 240 akcelerátorech Instinct MI250X
Silo také vyvíjí vlastní LLM, které se úzce specializují na minoritní jazyky, na něž giganti jako Open AI nebo Google příliš nemyslí. Poro pracující s 34 miliardami parametrů umí anglicky a finsky. Novější Viking s 33 miliardami parametrů pak přidává ještě švédštinu, norštinu, dánštinu a islandštinu. Firma je všechny trénovala na finském superpočítači LUMI, který je pátý nejvýkonnější na světě (a první v Evropě). Stojí mimochodem právě na CPU a GPU od AMD.
Do filosofie AMD zapadá i to, že velké jazykové modely od Sila jsou open source. Firma totiž zpravidla u svých softwarových řešení také zveřejňuje zdrojové kódy. Naposledy otevřela balík ROCm, což je právě odpověď na CUDA.