Elonův Grok má API a je do konce roku zdarma. Vyrobili jsme si chatbota, který je svobodnější než ChatGPT Ilustrace: AI Midjourney

Elonův Grok má API a je do konce roku zdarma. Vyrobili jsme si chatbota, který je svobodnější než ChatGPT | Ilustrace: AI Midjourney

Dnes si na základě xAI API vytvoříme chatbota, který se nebude bát ani kontroverzních povelů

Dnes si na základě xAI API vytvoříme chatbota, který se nebude bát ani kontroverzních povelů

Řešení je primitivní, ale jde o to, že se do něj Grok vůbec pustil

Řešení je primitivní, ale jde o to, že se do něj Grok vůbec pustil

Webová vývojářská konzole xAI pro práci s Grokem skrze API

Webová vývojářská konzole xAI pro práci s Grokem skrze API

Pro komunikaci se servery xAI si musíme nejprve vygenerovat API klíč – sled znaků a čísel, kterým se budeme v dotazech identifikovat a nesmíme ho nikde zveřejňovat

Pro komunikaci se servery xAI si musíme nejprve vygenerovat API klíč – sled znaků a čísel, kterým se budeme v dotazech identifikovat a nesmíme ho nikde zveřejňovat

A takhle vypadá celé kolečko v příkazové řádce/PowerShellu na Windows

A takhle vypadá celé kolečko v příkazové řádce/PowerShellu na Windows

A ještě jednou a košatěji v PowerShellu na Window

A ještě jednou a košatěji v PowerShellu na Window

Postman a stejný HTTP POST dotaz na API xAI včetně ukázky kódu pro Python

Postman a stejný HTTP POST dotaz na API xAI včetně ukázky kódu pro Python

Ceník modelů xAI mi zatím nabízí jen jeden textový model grok-beta

Ceník modelů xAI mi zatím nabízí jen jeden textový model grok-beta

Živák je bežná webová stránka a bude fungovat i lokálně prostým otevřením v prohlížeči

Živák je bežná webová stránka a bude fungovat i lokálně prostým otevřením v prohlížeči

Nastavil jsem posuvníkem teplotu na 1,4 a položil stejný dotaz

Nastavil jsem posuvníkem teplotu na 1,4 a položil stejný dotaz

Chatbot v základním režimu bez schopnosti držení kontextu, protože každý dotaz na API je izolovaný. Proto chatbot ani nemůže chápat souvislost otázky s tou předchozí

Chatbot v základním režimu bez schopnosti držení kontextu, protože každý dotaz na API je izolovaný. Proto chatbot ani nemůže chápat souvislost otázky s tou předchozí

Živák s aktivním udržováním kontextu pomocí techniky CoT a stejná dvojice otázek jako v předchozí ukázce. Teď už se chová jako vnímavý chatbot

Živák s aktivním udržováním kontextu pomocí techniky CoT a stejná dvojice otázek jako v předchozí ukázce. Teď už se chová jako vnímavý chatbot

Správně formátovaný tučný text v odpovědi a původní zdroj v JSON obalený dvojhvězdičkou

Správně formátovaný tučný text v odpovědi a původní zdroj v JSON obalený dvojhvězdičkou

Správně formátovaný zdrojový kód, pokud je součástí odpovědi 

Správně formátovaný zdrojový kód, pokud je součástí odpovědi 

Dnes si na základě xAI API vytvoříme chatbota, který se nebude bát ani kontroverzních povelů
Řešení je primitivní, ale jde o to, že se do něj Grok vůbec pustil
Webová vývojářská konzole xAI pro práci s Grokem skrze API
Pro komunikaci se servery xAI si musíme nejprve vygenerovat API klíč – sled znaků a čísel, kterým se budeme v dotazech identifikovat a nesmíme ho nikde zveřejňovat
15
Fotogalerie

Elon Musk spustil AI API. Do konce roku je zdarma, a tak jsme stvořili chatbota Živáka. Je svobodnější než ChatGPT

  • xAI API nabízí model grok-beta
  • Do konce roku dostane každý 25 dolarů měsíčně na hraní
  • Postavíme si HTMl chatbota, kterého spustíte na počítači

Když jsme si letos na jaře zaplatili prémiové X, abychom si vyzkoušeli údajně nejsvobodnějšího AI chatbota Grok ze stáje Elona Muska, narazili jsme na realitu planých slibů a marketingových výkřiků.

Robůtek možná občas vypustil i nějaké to ostřejší slovíčko, ale rozhodně to nebyla žádná exploze bezbřehé svobody. A nepomohla tomu ani kvalita češtiny, ze které bychom se sice ještě před dvěma lety posadili na zadek, v éře GPT-4o, Claude 3.5 a Gemini 1.5 jsme už trošku dál.

Díky API je Muskův Grok úplně zdarma

Abychom ale byli féroví, Musk na současnou vlnu generativní AI naskočil až s roční zpožděním, chlubí se, že jeho laboratoř xAI staví superpočítač, který lidstvo ještě nepoznalo a před pár dny konečně představil veřejné HTTP API pro vývojáře.

b088c57c-cb4e-4020-9f5f-8d322d7e0c78
Dnes si na základě xAI API vytvoříme chatbota, který se nebude bát ani kontroverzních povelů

Zatím toho sice moc nenabízí – v nabídce je všeho všudy jeden jediný jazykový model označený jako grok-beta –, hlavním lákadlem je ale cena. Protože se jedná o betaverzi, až do konce roku ho můžeme všichni používat úplně zdarma.

A nebojí se povelů, které už ostatní odmítají

A ano, velký jazykový model řady Grok skrze xAI API je skutečně trošku svobodnější než konkurence. Sice s jeho pomocí nevyrobíte zbraň hromadného ničení a zapomeňte na humory za hranou, když ho ale požádáte, aby vám vyrobil třeba skript, který kolegovi z kanceláře smaže všechny soubory na počítači, bez zaváhání se do toho pustí. Konkurenční ChatGPT Plus mě namísto toho upozornil, že takové ošklivosti rozhodně dělat nebude.

73e51173-ed1f-4efb-9f23-b6e4c1173ffb
Řešení je primitivní, ale jde o to, že se do něj Grok vůbec pustil

Dnes si to vyzkoušíme v praxi – výsledek už vidíte na přiložených snímcích obrazovky. Nejprve si ukážeme trošku té teorie a v závěru článku najdete kompletní zdrojový kód chatbota v jednom souboru HTML, který můžete spustit rovnou z počítače. 

Model grok-beta a kredit 25 dolarů zdarma

V praxi to funguje tak, že si vytvoříte účet, přihlásíte se do vývojářské konzole xAI a každý měsíc dostanete 25 dolarů na experimenty. To vše bez potřeby vyplňování jakýchkoliv platebních metod a zadávání kreditní karty!

b20e832d-50be-42eb-8589-0dc81fbb6cfb
Webová vývojářská konzole xAI pro práci s Grokem skrze API

Kolik za to bude muziky? Napoví současný ceník:

  • Vstupní tokeny (prompt/dotaz): 1 000 000 za 5 USD
  • Výstupní tokeny (odpověď): 1 000 000 za 15 USD
  • Limity:
    • 1 dotaz za sekundu
    • 1 200 dotazů za hodinu
  • Kontext: 131 072

Ceny jsou to poměrně vysoké, což dokládá i přiložená tabulka a porovnání s konkurencí. Je opravdu otázkou, čím přesně hodlá Grok konkurovat, v tuto chvíli totiž běžným betatesterům nenabízí ani žádnou úroveň multimodality. Rozumí a generuje pouze textu, zatímco ostatní mají v nabídce i obrázkovou a zvukovou analýzu a stejně tak generování.

API/Model Vstup (1 M tokenů) Výstup (1 M tokenů)
xAI grok-beta 5 USD 15 USD
OpenAI GPT-4o 2,5 USD 10 USD
Google Gemini 1.5 Pro 1,25 USD 5 USD
Anthropic Claude 3.5 Sonnet 3 USD 15 USD
Mistral Large 2 2 USD 6 USD

(Pouze ilustrační: Tabulka nezohledňuje všechny varianty; u Gemini se cena dále liší podle délky kontextu/velikosti paměti, modely mají různé limity/rates a odlišnou cenu mohou mít nakonec cloudoví operátoři, které modely také nabízejí)

Na stranu druhou, jméno Elona Muska, který na to vše dohlíží, je magnetem samo o sobě a pak snad i příslib opravdu mírně větší svobody modelu, který nebude tak svázaný etickými pravidly svých tvůrců.

Přihlaste se
a zdarma dočtěte
tento článek

 

Po přihlášení můžete také
diskutovat pod články

Určitě si přečtěte

Články odjinud