AI chatboti jsou zatím hodně drahá charita a všichni hledají způsob, jak na nich přestat prodělávat  | Ilustrace: DALL-E 3

Ilustrace: DALL-E 3

AI chatboti jsou zatím hodně drahá charita a všichni hledají způsob, jak na nich přestat prodělávat

  • Generativní AI letos začala měnit svět
  • Jenže to není perpetuum mobile
  • Provoz GPT-4 a dalších je brutálně drahý

Microsoftu a dalším provozovatelům generativní AI se zatím nepodařilo najít uspokojivé obchodní modely, tvrdí The Wall Street Journal a cituje některé experty z oboru, podle kterých příští rok dosavadní nadšení vystřídá racionálnější přístup.

Na vině je výpočetně extrémně náročný provoz současných velkých jazykových modelů, což se musí zákonitě promítnout do ceny.

Aby velcí hráči udrželi cenu, masivně dotují AI

Když ale bude příliš vysoká, produkt si nikdo nekoupí, a tak mnozí velcí hráči podle zjištění WSJ svůj komerční provoz masivně dotují ze svého, což nemůže trvat věčně.

b6d2e4ad-4bc4-454c-8510-29f65d6ec008
GitHub Copilot pro vývojáře začíná na 10 dolarech měsíčně. Podle WSJ jej ale někteří kodéři vytěžují tak moc, že Microsoft reálně stojí až 80 dolarů – 70 dolarů prodělává 

Týká se to i Microsoftu a jeho virtuálního programátora GitHub Copilot, který je zatím ztrátový a Redmond počítá s návratností až v delším časovém horizontu, až se dostatečně zefektivní technologie. Tedy alespoň podle WSJ.

Spíše než nedostupná Nvidie vlastní silikon

Co s tím? Nvidia sice průběžně představuje nové generace procesorů, které jsou už optimalizované pro generativní AI, nicméně jejich nasazení není jen tak. Vyžaduje to astronomické počáteční investice, a hlavně je jich na trhu stále málo.

Není tedy divu, že mnozí koketují s myšlenkou, že si pro cvičení i provoz AI – takzvanou inferenci – navrhnou vlastní čipy na míru. Slibuje to právě Microsoft a zvažuje to i jeho klíčový partner OpenAI. 

GPT-4 je Lamborghini. Ne každý ho potřebuje

Právě modely od OpenAI totiž sice patří k těm nejatraktivnějším a nejschopnějším na trhu, nicméně provoz GPT-4 na současných architekturách procesorů je tak trochu ekonomická sebevražda.

42ba74e4-d183-4d4a-993b-a836c8cb59a9
GPT-4 je Lamborghini mezi velkými jazykovými modely. To může být ale i na škodu 

Podle expertů je GPT-4 něco jako Lamborghini, které ale poslíček nepotřebuje k tomu, aby nám dovezl horkou pizzu. Mnohé firmy proto experimentují třeba s jednodušším velkým jazykovým modelem Llama 2 od Mety, který může být pro mnohé rozumově-nenáročné úlohy mnohem efektivnější.

Příští rok si prý mnoho firem uvědomí, že GenAI vlastně nepotřebuje

Příští rok by tak mohl podle WSJ přinést určitou racionalizaci. Tisíce zpočátku nadšených zákazníků přijdou na to, že vlastně generativní AI nepotřebují, protože ji nedokážou za tu cenu plně využít.

183ac933-cee3-4b52-b755-1d9b984e3784
Microsoft a Google se snaží prodat GenAI skrze zefektivnění procesů ve firmách

Jednoduše řečeno, takový podnikový AI asistent Microsoft Copilot nebo jeho protipól Duet AI od Googlu sice mohou být efektivními pomocníky třeba v obchodním oddělení, rozhodně to ale neznamená, že jen proto, že je tam zavedeme, následující kvartál dosáhneme automaticky dvojnásobných tržeb.

Firmy budou muset teprve najít cestu, jak je vůbec efektivně používat a budou si muset spočítat, jestli se jim jejich předplatné opravdu vyplatí.

Bez revoluce v železe žádná AGI nebude

Skutečná revoluce by tak měla nastat především v oblasti železa a nových návrhů AI, které budou jednou k běhu potřebovat zhruba to, co lidský mozek – ekvivalent několika kostek cukru, co nejtmavší kávy a kyslíku. Teprve pak se stane generativní AI samozřejmou součástí našich životů, protože bude stát zlomek současné ceny.

K čemu by nám totiž byl hypotetický GPT-5, GPT-6, anebo rovnou nějaký jejich nástupce, který sice dosáhne úrovně univerzální umělé inteligence AGI, ale za cenu toho, že k tomu bude potřebovat celoroční produkci grafických karet od Nvidie a tři Temelíny.

Určitě si přečtěte

Články odjinud