Oživeno 18. března | Laboratoř xAI si dala na čas a chatbota Grok-1 nakonec zveřejnila pod svobodnou licencí Apache 2.0 až v neděli. Ale (v tuto chvíli) jen trošku.
Zájemci totiž sice najdou na GitHubu kódy v Pythonu pro demonstraci v textové řádce, nicméně samotný model (tzv. naučené váhy) si musejí stáhnout skrze Bittorent. Autoři zatím zveřejnili jen magnet link.
Grok-1 je konečně open-source
Má to jeden háček. Model Grok-1 čítá 314 miliard parametrů (číslo představuje komplexnost neuronové sítě), takže torrent dosahuje velikosti bezmála 300 GB.
Pokud by sociální impérium Elona Muska zajistilo rychlý přístup k torrentu, byla by to jen drobná komplikace, magnetický link je ale polomrtvý a zatím prakticky nefunkční.
Pokus o stažení torrentu s váhami Grok-1 skrze transmission-cli a na dostatečně rychlé lince. Zatím neúspěšně
Nutno podotknout, že tak jako tak byste k běhu Groka potřebovali pořádný GPU akcelerátor s dostatkem paměti, do které se vejde samotný model. Existují ale techniky, jak neuronky zjednodušit (snížit jejich bitové rozlišení), aby zabraly v RAM/GPU RAM méně prostoru.
Chatbot Grok bude open-source, píše Elon Musk. Určitě to má být facka pro OpenAI
Původní článek z 12. března | Zatímco ChatGPT, Copilot, Gemini nebo třeba Claude plní týden co týden titulní stránky technologických médií, na chatbota Grok od Elona Muska se už tak trochu zapomnělo. Hlavním důvodem je fakt, že se jedná o prémiovou betaverzi pro předplatitele X.
Během následujících dnů by se to ale mělo změnit, Musk totiž na svém profilu a bez dalších detailů oznámil, že se z Groka tento týden stane open-source. V jaké šíři a podobě zůstává otázkou.
Elon Musk vs. OpenAI
Vše nejspíše souvisí s vystupňováním sporu mezi Muskem a OpenAI na sklonku února. Americký inovátor před lety do OpenAI investoval, později se ale s laboratoří rozešel a dnes ji viní, že neplní svoji původní vizi a příliš se zaměřila na komercializaci.
Grok-0 a jeho nástupce Grok-1 sice zatím na OpenAI nemají, prý jsou ale výpočetně méně nároční a jejich vývoj zabral jen pár měsíců (více procent, vyšší skóre)
Proměna Groka v open-source by tedy mohla být jakýmsi symbolickým políčkem do tváře ve smyslu: „Podívejte se, věnujeme základní technologii komunitě, tak laskavě udělejte to samé!“
Abychom vyvinuli AGI, někdo musí zaplatit účet
OpenAI už zkraje března na Muskovy útoky zareagovala na svém blogu s tím, že plní původní misi do posledního puntíku a že komercializace byla jedinou cestou, jak získat další prostředky k vývoji AGI – tedy obecné AI, která se v rozumových schopnostech vyrovnává člověku.
Zatím sice neexistuje, mnozí optimisté nicméně očekávají, že bychom se jí mohli dočkat už do konce této dekády.
Stane se tak ale pouze v případě, že firmy udrží současné tempo vývoje a generativní AI nenarazí na své vlastní limity. Ať už ty hardwarové, nákladové, nebo obchodní.
Společnosti totiž nalily do generativní umělé inteligence neuvěřitelné sumy peněz, které potřebují zpět od zákazníků, aby se mohly později posunout zase dál právě směrem k AGI.