Jak na tom neprodelavat ? K tomu je asi jeste hodne dlouha cesta a nejdulezitejsi na ni budou 2 kroky.1) razantne snizit naklady... nejen ty vstupni, tedy porizovaci, ale i provozni, tedy razantne snizit ceny energii a dale zlepsit energetickou efektivitu, protoze ani levne energie nepomohou, kdyz to bude enormne rozezrane. Chapu, ze jsme na uplnem zacatku vyvoje, kde spousta technologii byla podobne neefektivnich a casem se to snad povede dostat na zlomek soucasnych nakladu.2) zlepsit jeste o nekolik trid kvalitu.Pravda, nezkousel jsem zadny placeny model. Nicmene takovy Bard, sice se chova slusne, produkuje hezky vystup, ale keca tak, ze je v podstate nepouzitelny. Bing je o neco lepsi, na beznou zdvorilostni konverzaci asi staci. Jenze si take stale dost vymysli a bohuzel trochu zhloupnul. Nektera temata jsou pro nej tabu. Jiste, ma mit moralni zabrany, to je v poradku, ale ma byt schopen komunikace na jakekoliv tema. Narocnejsi komunikace, ackoliv se nejedna o citlive tema, ho taky snadno zazene do kouta, kdy nevi kudy kam a pak jen papouskuje dokola v podstate stale stejnou odpoved. To neni zrovna presvedcivy vysledek. Jako pomocnik, alias aplikacni copilot, je to sice asi uz pouzitelne. Jinak je to zatim jen hracka s urovni slapaciho auticka. 😉Nevim tedy, co umi placeny GPT-4, ale pochybuju, ze by byl na urovni Lamborghini. Kdybych za to mel platit, muselo by to byt o dost jinde...
Zkusil jsem porovnat Barda s GPT. Podstrčil jsem mu jednoduchý JS aby ho optimalizoval. Výsledkem z GPT-3.5, byl spustitelný kod, Bard tam měl chybu, vůbec nepochopil co je cílem. , takže bez dalších úprav to nebylo spustitelné. Viděl jsem spuštění chatbota na GPT-4 a rozdíl mezi 3.5 je jak Škodovka a Mercedes. je to skutečně o něčem jiném. Nicméně platí shit-in shit-out. A pořád je to víceméně statistický analytický model , ale sakra dobrej. Problém bude najít usecase, který myšlenku obrátí v tok peněz, neb mám podezření, že úspory v nákladech stačit nebudou. (nahrazení něčí práce)
Používat drahou LLM na věci, které zvládne daleko menší neuronová síť je neekonomické... thank you, Captain Obvious!
Chapu to spravne, ze poskytovatele tech sluzeb postupuji daleko mene efektivne, nez byste postupoval vy?
Ano. protože tito provozovatelé nemají za cíl poskytovat LLM jako službu. jejich cílem je, aby jim naivní uživatelé poskytovali tréninková data, a také privátní data, jejichž prodejem vydělávají peníze. Je to absolutně shnilý a neperspektivní byznys.
Jenže ona to je neuronová síť. Problém bude v tom, že se neustále učí a její síť roste. HW je klasický server, který umí neuronovou síť postavit jen přes SW nikoliv nějakým vnitřním nastavením nějakého čipu a tady bude ten problém. Je to náročné a drahé.
Sběr a prodej privátních dat, jako vždy.
Potvrďte prosím přezdívku, kterou jsme náhodně vygenerovali, nebo si zvolte jinou. Zajistí, že váš profil bude unikátní.
Tato přezdívka je už obsazená, zvolte prosím jinou.