xAI

Musk chystá superpočítač pro AI. Grok 3 využije 100 tisíc karet Nvidia H100 a bude stát miliardy dolarů

Elon Musk je odhodlaný nezůstat se svým startupem xAI pozadu a plánuje s ním velké věci. Podle serveru The Information společně s Oraclem chystá superpočítač, který použije na trénování další verze svého chatbotu Grok. A podařilo se mu zajistit nový masivní kapitál, který by to tuto ambici měl podpořit. 

O Muskově startupu xAI zatím nebylo mnoho slyšet. Založil ho vloni s cílem vytvořit umělou inteligenci, která nám pomůže pochopit svět. Paradoxně před tím varoval ostatní AI firmy, aby vývoj svých výkonných systémů pozastavily, trochu to působilo, že jen chtěl získat čas než přijde s něčím svým. 

Grok je... jiný

Zatím jediným produktem xAI je chatbot Grok integrovaný do sítě X. V březnu startup oznámil verzi 1.5 a simultánně dochází k trénování verze 2. Je trochu složité porovnávat ho s ostatními chatboty, přístup k němu mají jen předplatitelé X (nebo je možné si stáhnout osekanou open-source verzi, tedy pokud se k masivnímu souboru zvládnete dostat), je sarkastický… a v současnosti nedosahuje parametrů konkurence, čímž se xAI ani netají. 

Musk je ale zvyklý být ve všem na vrcholu, takže chce konkurenci vytřít zrak s budoucí verzí 3. Podle The Information ji plánuje trénovat na superpočítači, který chce postavit společně s Oraclem, což prozradil během prezentace pro investory. Tento superpočítač má být skutečně masivní, nazývá ho „gigafactory of compute”. Už dříve Musk odhadl, že k trénování Groku 3 bude třeba 100 000 GPU Nvidia H100, zatímco k trénování Groku 2 používá jen pětinu těchto karet. 

Takový objem čipů bude drahý, o to už se ale xAI nemusí starat. Muskova pretenzace se investorům zřejmě zalíbila, protože startup nyní oznámil, že získal investici ve výši 6 miliard dolarů (cca 136,2 miliard korun) od různých investorů v Silicon Valley a saúdskoarabského prince Al-Valíd bin Talála. Plán je nicméně velmi ambiciózní, Musk by superpočítač chtěl začít používat už na podzim roku 2025. 

Plány Open AI a Googlu

Není sám, kdo jde tímto směrem. Také OpenAI společně s Microsoftem plánuje obří superpočítač, který by měl trénovat jejich AI. Podle The Information se firmy dohodly utratit šílenou částku – až 100 miliard dolarů – na vybudování nového datacentra se zmíněným superpočítačem, který bude zahrnovat „miliony specializovaných čipů”. 

Informace o tomto projektu jsou ale zatím hodně vágní. Ví se jen to, že superpočítač se bude jmenovat Stargate, měl být být funkční v roce 2028, pohltí masivních 5 gigawattů energie a měly z něj vzejít ještě pokročilejší modely než je ChatGPT-4. 

Google jde trochu jiným směrem. Dosud svou AI Gemini trénoval na vlastních AI akcelerátorech TPU 4. a 5. generace a na nedávné konferenci oznámil 6. generaci s kódovým označením Trillium, která má být 4,7krát výkonnější. Do Google Cloudu nasadí také akcelerátory Blackwell od Nvidie. 

Zdroj: The Information, xAI, Google blog, The Information

Diskuze (19) Další článek: Recenze Surface Pro 10 pro firmy. Tento počítač si sami nekoupíte, ale možná vám ho přidělí

Témata článku: , ,