Chatbot Grok je open-source. Musk se ale zbláznil a šíří ho skrze 300GB a polomrtvý torrent

Můj názor  |  zobrazit i odpovědi (trvale)  |  řadit od nejstarších Komentáře nyní řadíme od nejnovějších.
Tímto odkazem můžete řazení změnit.
 |  nových názorů: 48

Názory k článku

avatar
20. 03. 2024 10:15

Stačí mi k tomu systémová RAM když nemám dedikovanou grafiku? Kolik Ramek potřebuju? Pujede to když dám welký swap, protože mám NVME disky?
pojede to na počítači bez "AI" akcelerátoru?¨A pak se chci zeptat, souvisí nějak "počet parametrů" a hypoteticky počet "neuronových buněk", jako že člověk má x miliard, učitel tělocviku v tisícovkách a miandy,s, uzená klobáse karel, jirkaXOR a Alien 35 až 677?

Souhlasím  |  Nesouhlasím  |  Odpovědět
19. 03. 2024 02:35

pokud pojede v www.LMstudio.ai
a podobných tak to bude asi zajímavéMainframe Power Chip od IBM na to snad netřeba?

Souhlasím  |  Nesouhlasím  |  Odpovědět
avatar
18. 03. 2024 21:51

Update cca 2hod zpet, netreba torrent. Torrent bude problem, protoze to moc lidi nestahuje. 314B znamena takovy GPU VRAM requirement (cca 1.2TB), ktery si jen tak nekdo nekoupi ani nepronajme na cloudu.git clone https://github.com/xai-org/grok-1.git && cd grok-1
pip install huggingface_hub[hf_transfer]
huggingface-cli download xai-org/grok-1 --repo-type model --include ckpt-0/* --local-dir checkpoints --local-dir-use-symlinks False

Souhlasím  |  Nesouhlasím  |  Odpovědět
18. 03. 2024 17:21

300GB jsou rookie numbers. Archivy různých retro DOSových a automatových kolekcí mají k terabajtu a není s tím problém.

Souhlasím  |  Nesouhlasím  |  Odpovědi (2)Zavřít odpovědi  |  Odpovědět
avatar
18. 03. 2024 15:09

A já měl dojem, že Čížek něco o počítačích ví ...Opatrně se slovem blázen Čížku. Buď schválně vyrábíš clickbait nebo umíš distribuovat zdarma a nezávisle objemný soubory nějak geniálně líp.

Souhlasím  |  Nesouhlasím  |  Odpovědi (1)Zavřít odpovědi  |  Odpovědět
18. 03. 2024 14:26

Sosat se dá přes torrent tady : https://academictorrents.com/download/5f96d43576e3d386...
Nebo soubory : https://huggingface.co/xai-org/grok-1/tree/main
komplet to zabírá : 318.24GB

Souhlasím  |  Nesouhlasím  |  Odpovědět
18. 03. 2024 14:10

To je náhodou dost dobrý způsob distribuce, navíc nezávislý na zdroji. Torrentové klienty umožňují stáhnout i jen některé soubory, a distribuce bude po prvotním nabytí seedů velmi rychlá.Nevíte někdo, co je na to potřeba za hardware? AMD APU mi na to asi stačit nebude, a můj starší x86 server bude taky k ničemu, co? Edit: Tak prý 300 GB grafické paměti. Tak já budu snít dál, a jestli mě přepadne nějaká choroba a budu se hodně nudit, zkusím si to zprovoznit někde v cloudu

Souhlasím  |  Nesouhlasím  |  Odpovědi (1)Zavřít odpovědi  |  Odpovědět
18. 03. 2024 14:02

Možná budete moc pronajímat výpočetní čas na svém počítači pro něčí AI. Něco jako byla těžba kryptoměn.

Souhlasím  |  Nesouhlasím  |  Odpovědi (2)Zavřít odpovědi  |  Odpovědět
18. 03. 2024 12:20

Musk se zbláznil - tak konečně to někdo řekl nahlas!

Souhlasím  |  Nesouhlasím  |  Odpovědět
avatar
18. 03. 2024 12:18

Najprv si musia posťahovať seederi torrent, aby nebol polomŕtvy. 300GB trochu trvá. Zvolil vhodnú formu distribúcie.

Souhlasím  |  Nesouhlasím  |  Odpovědi (4)Zavřít odpovědi  |  Odpovědět
18. 03. 2024 12:00

Distribuce pres torrent neni spatny napad. Vyhodou torrentu je, ze soubor stahuje po segmentech a pokud se stahovani z nejakeho duvodu prerusi, tak se soubor nemusi stahnout cely znovu, ale stahnou se segmenty, ktere jeste chybi... Take je dobre, ze torrent obsahuje kontrolni soucty a ty zarucuji, ze nedoslo k poskozeni dat, ze kopie je stejna jako original. Je dobre, aby jeste existovalo nekolik nekolik kvalitnich primarnich serveru, ktere umozni rychle stahovani, ty podle clanku bud chybi nebo jsou pretizene.Jeste lepsi nez torrent je "metalink", ten se ale priilis neprosadil. Metalink muze kombinovat klasicke http servery s torrent daty; detaily treba na Wikipedii, https://en.wikipedia.org//wiki/MetalinkPokud existuje torrent, vzdy lze k nemu navrhnout i Metalink soubor, ktery muze torrent rozsirit o klasicke zrcadla se statickymi http servery...Distribuovat 300 GB dat neni uplne trivialni, to je hodne nejen na DVD, ale i na BD (BlueRay)... Mohli by to ale prodavat na klasickem disku, treba "levnem" SSD 500GB, za cenu media a distribuce.Podivejte se, jaky je problem treba s distribuci ruznych alternativnich ROM pro Android zarizeni, vetsina je jich umistena na Mega nebo GoogleDrive a to jsou soubory velke jen nekolik GB; jejich stahovani je pomale a je casto obtizne se k datum dostat, protoze ty soubory po case "mizi" (expirace uctu, smazani uzivatelem, spatne nastaveni pristupovych prav, prejmenovani souboru, atd).Jeste pridam jedno porovnani. Soucasny blockchain Bitcoinu se pry porad jeste vejde na 500GB disk. Take se jedna o peer-to-peer stahovani. Pokud se rozhodnte postavit si vlastni bitcoinovy server, tak musite stahnout cely blockchain a to muze trvat dny ale i tydny... Aktivnich Bitcoinovych uzlu jsou tisice.Dalsi ukazkou distribuce velkych souboru muze byt Debian. Pokud potrebujete vsechny verze i zdrojove kody, tak je tech dat skutecne hodne. Debian vydava krome CD a DVD take BD, ale BD nestahnete z miroru. Pokud chcete mit BD s Debianem, tak si jej musite sami vytvorit, slouzi k tomu nastroj "jigdo". Vytvareni BD chvili trva, nejprve se stahnou jednotlive soubory a z nich se pak sestavi obraz BD, ktery si muzete vypalit...A pokud nesouhlasite, tak muzete navrhnout, jak lepe distribuovat tak velky objem dat...

Souhlasím  |  Nesouhlasím  |  Odpovědi (2)Zavřít odpovědi  |  Odpovědět
13. 03. 2024 17:14

Když už tak políček, výzva k satisfakci.

Souhlasím  |  Nesouhlasím  |  Odpovědět
12. 03. 2024 19:36

Jsem jen běžná užvatelka. Nějak jsem nepochopila co se teda stane, když to bude open-source, co se změní, co bude jinak? Výhody, nevýhody? Ten článek se mi zdá nějak nedodělaný, neinformativní .

Souhlasím  |  Nesouhlasím  |  Odpovědi (19)Zavřít odpovědi  |  Odpovědět
avatar
12. 03. 2024 19:07

"...limity. Ať už ty hardwarové, nákladové, nebo obchodní."
Vidím tam ještě jeden velký limit, který to brzdí. Znalosti a inteligence lidí. Lidi objevili některý techniky neuronových sítí a nejde jen o výkon a učení, ale jsou potřeba nějaké architektury neuronových sítí jako v živém mozku a je těžký to vymyslet.

Souhlasím  |  Nesouhlasím  |  Odpovědi (3)Zavřít odpovědi  |  Odpovědět
Zasílat názory e-mailem: Zasílat názory Můj názor