Koncem listopadu OpenAI odstartovala velký zájem veřejnosti o umělou inteligenci, když spustila ChatGPT. Jenže teď se začalo nahlas spekulovat o tom, že výrobce může jít ke dnu. Krach by mohl nastat do konce roku 2024, upozorňuje Analytics India Magazine. Proč?
Provoz chatbotu je velice drahý. V dubnu analytická firma SemiAnalysis odhadla, že každý dotaz v ChatGPT stojí 36 amerických centů a denní provoz vyjde OpenAI na 700 tisíc dolarů. Současně se firma pere o grafické výpočetní jednotky, které poskytnou potřebný výpočetní výkon. Potřebují je také konkurenti. Vysoká poptávka vede ke zvýšení cen komodity a snížené dostupnosti.
OpenAI by podle analytických odhadů mohlo potřebovat 30 tisíc grafických výpočetních jednotek od Nvidie, která má v této oblasti dnes de facto monopol. Proto také Google svůj plnotextový vyhledávač nevyměnil za tvořící umělou inteligenci. Jeden vyhledávací dotaz vyjde Google na pětinu centu, jak před pár měsíci popsal kolega Jakub Čížek. A proto Microsoft vyvíjí vlastní AI čipy.
Analytics India Magazine píše, že OpenAI momentálně drží nad vodou nejspíš pouze 10miliardová investice od Microsoftu a peníze dalších menších investorů. Firma přitom provozuje více služeb a musí investovat do vývoje, tudíž odhad 700 000 dolarů provozních výdajů na den nebude konečný.
OpenAI si pro letošní rok stanovila 200milionovou tržbu. V příštím roce by to měla být miliarda dolarů. Jenže příjmy nejsou zisk. Není ani jasné, jestli cíle naplní. OpenAI zkouší monetizovat jazykové modely GPT-3.5 a GPT-4 a spustilo ChatGPT Plus. Jestli to bude stačit, uvidíme. Analytický časopis poukazuje na to, že stanovené cíle leží v mlze.
Drahý provoz a konkurence v zádech
Současně v posledních měsících na ChatGPT tlačí konkurence. Jde jak o jazykové modely, tak o koncové služby. Objevily se bezplatné jazykové modely jako LLaMA od Mety. Především je tady Microsoft, který po hlavě skočil do vznikajícího segmentu a již půl roku zdarma provozuje chatbot Bing Chat, který stojí na technologii od OpenAI.
Umí prohledávat web a získává další funkce, čímž zvyšuje svou atraktivitu. Je to komerční koncový produkt se silnou firmou za zády. Google kromě vlastní technologie financuje chatbot Claude, v dubnu se objevil bezplatný StableLM od StabilityAI.
Zřejmě i tyto faktory vedou ke snížení zájmu o ChatGPT. Analytics India Magazine poukazuje na report služby Similarweb, který ukazuje snížení počtu návštěv webu openai.com v posledních dvou měsících. Není to tak dlouhá doba na to, aby se z ní daly vyvozovat velké závěry, je to však ukazatel hovořící v neprospěch OpenAI.
Finanční stav podniku není transparentní, díky reportu magazínu The Information z května aspoň víme, že loni se ztráta za vývoj ChatGPT zdvojnásobila na 540 milionů dolarů. Trénování modelů je stále nákladnější.
Propad návštěvnosti
Vrcholu web dosáhl v květnu, kdy zaznamenal 1,9 miliardy návštěv. V červnu to bylo 1,7 miliardy a v červenci 1,5 miliardy. Sasha Kaletsky, spoluzakladatel kapitálové firmy Creator Ventures, propady připisuje tomu, že jsou prázdniny a zvyšuje se použití chatbotu skrze API. Nebo možná prostě jen více lidí odchází než přichází.
Právě použití API je něco, co dává smysl hlavně firmám, jenže tady se může projevit zmíněná konkurence. Někteří už zjistili, že zdarma dostupná LLaMA má své výhody: otevřený zdrojový kód, komerční licenci, relativně nízké nároky na hardware a naprostou kontrolu. Vývojář pro analytický magazín popsal, že ví o dvou startupech, které migrují na LLaMA.
Počet měsíčných návštěv openai.com podle Similarweb
Zapomenout ale nesmíme na to, že OpenAI spustilo mobilní aplikaci, která nedávno dorazila i do Česka. Její použití se do výše zmíněné statistiky návštěvnosti nepočítá. Důležitá budou čísla v dalších měsících, která definitivně ukáží trend. Pokud OpenAI nebude sama zveřejňovat údaje o sobě, budeme stejně moct do značné míry jen spekulovat, jaká je její reálná finanční situace, protože počet návštěv webu je jen indicie a sama o sobě nestačí.
K faktorům, které by mohly lidi odhánět, je snížení inteligence chatbotu. To se nicméně netýká jen ChatGPT – zhloupl rovněž Bing Chat. Svět se nakonec ani neshodne na tom, jestli se schopnosti chatbotu skutečně zhoršují. OpenAI to odmítá.
Musk skoupil čipy a buduje konkurenci
OpenAI by se nakonec mohlo nechat někým koupit, aktuálně ale nemá smysl o tom více spekulovat. Vraťme se k analýze. OpenAI je do značné míry zavřená kniha, koncem června však oznámila, že otevírá nové kanceláře v Londýně a hledá talenty. Nedávno požádala o registraci ochranné známky GPT-5.
Není velké překvapení, že vývoj technologií GPT-4 neskončí. Firma nicméně potvrzuje, že chystá jazykový model další generace a k jeho trénování bude potřebovat spoustu hardwaru. Kromě Microsoftu shání grafické jednotky také Elon Musk, který založil X.AI a koupil jich 10 tisíc od Nvidie. Jednu za 10 tisíc dolarů. Do OpenAI se mezitím nevybíravě strefuje, ačkoli ji před lety spoluzaložil.
Nic z toho není pro OpenAI pozitivní. Konkurence od Muska zatím neexistuje, ale je ve vývoji a časem může ChatGPT ohrožovat. Vyšší ceny nebo nedostupnost grafických výpočetních jednotek jsem už zmínil. Dokud firma čipy nenakoupí, musí se spokojit s kapacitou, jakou má k dispozici. Což se může negativně podepsat na výkonu ChatGPT, pakliže část kapacity použije na trénování nového modelu. Což mu nové uživatele a uživatelky nepřinese. Aspoň ne krátkodobě.
OpenAI bylo založeno jako nezisková organizace, to se ale změnilo. Teď potřebuje vydělávat, jenže tento cíl se neshoduje s tím, kam míří šéf firmy Sam Altman. Ten chce dosáhnout vytvoření AGI, tedy umělé obecné inteligence. Tyto cíle se nutně nemusí vylučovat, protože zkrachovalá firma AGI nevyvine.
Závěr
Zapomenout nesmíme ani na to, že zájem o AI vede k nedostatku kvalifikovaných lidí. Konkurence podle Analytics India Magazine přetahuje talenty k sobě. OpenAI svírají zejména vysoké náklady na provoz ChatGPT, nedostatek a cena grafických výpočetních jednotek, sílící konkurence a propad návštěvnosti.
Jak jsme si ale popsali, mnoho věcí nevíme a můžeme se jen domnívat. Na pohřbívání OpenAI je tedy příliš brzo, ačkoli bezesporu čelí velkým výzvám. Zaujmout může doplňky a podporou vývojářské scény.
Budoucnost přinese výzvy
Výhledově se nejen OpenAI bude muset popasovat s regulací, kterou připravuje Evropská unie. Dohodnout se chce se Spojenými státy. Řešit se bude i legalita generativních AI, které podle některých prostě jen kradou. Stěžují si malíři, ale i spisovatelé, kteří na OpenAI podali hromadnou žalobu.
Zdroje: Analytics India Magazine | Ars Technica | Firstpost | The Information (1, 2) | Josh Gerben / Twitter | OpenAI | Sasha Kaletsky / Twitter | SemiAnalysis via gHacks Tech News | The Verge | Wired