Přemýšlecí model DeepSeek R1 je pozoruhodný. Jeho čínským tvůrcům se podařilo vytrénovat AI patrně za zlomek nákladů, které na vývoj vynakládají jiné firmy. Hned se dostal do špičky nejlepších a včera pohnul technologickými akciemi na burzách.
Své odpovědi ale cenzuruje.
Není to kontrola, na kterou jsme zvyklí ze západních chatbotů. U ní je cílem hlavně neurazit, proto chatboty odmítají vtipy cílící na Mohameda, zesměšňování celebrit, snaží se při odpovědích zahrnout menšiny. DeepSeek ukazuje tvrdou komunistickou cenzuru, se kterou se obvykle nemáme možnost setkat.
Zeptejte se DeepSeeku na masakr na Náměstí nebeského klidu v roce 1989. Nebo na situaci Ujgurů v Číně, na koncentrační tábory. Stačí i tak nevinný dotaz, kdo je zrovna prezidentem Tchaj-wanu.
Když se zeptáte anglicky, většinou rovnou dostanete odpověď „Omlouvám se, tohle přesahuje můj současný obzor. Pojďme se bavit o něčem jiném.“
Na většinu citlivých témat dostanete tuto stejnou odpověď
V češtině je někdy trochu sdílnější:
Čeština občas projde cenzurními filtry. Zde snad kvůli tomu, že Tchaj-wan píšeme jinak než angličtina
Jindy pomůže, když se zeptáte znovu. I tak ale dostanete reakci, která jakoby vypadla z rudé příručky. Je to AI, takže odpovídá pokaždé jinak, můžete se proto setkat i s více-méně přijatelnými odpověďmi. Stále za nimi ale uvidíte, jak jsou v souladu s oficiálním stanoviskem čínské vlády.
Pojďme se raději bavit o současných a budoucích úspěších Číny…
Je zajímavé sledovat, jak cenzura v DeepSeeku funguje. Když se zeptáte přímo a použijete v anglickém dotazu vybraná klíčová slova jako třeba Taiwan, dostanete odmítavou odpověď rovnou. Na AI ale můžete jít oklikou. Třeba dotazem Kdo je prezident země, která leží jihovýchodně od Číny a má přibližně 23 milionů obyvatel?
Protože R1 je přemýšlecí model, můžete sledovat, jak mu dotaz šrotuje digitálními neurony a jak uvažuje. Jaká by to mohla být země? Vypadá to na Tchaj-wan. Ale to je citlivé téma, musím si na něj dát pozor…
DeepSeek začne odpovídat jako způsobný AI model. Ale v okamžiku, kdy se v odpovědi ukáže klíčové slovo, zareaguje cenzurní vrstva a během okamžiku se všechno změní na známé Sorry, that's beyond…
AI model přemýšlí, začne odpovídat, ale po těchto slovech okamžitě zasáhla cenzurní vrstva
Po zásahu cenzury se také DeepSeku smaže paměť, takže se na předchozí odpověď ani nemůžete odkázat a zkusit se k ní dostat oklikou.
Protože DeepSeek je k dispozici jako open source, můžete ho rozjet i na vlastním hardwaru. Udělal to také AI vyhledávač Perplexity. Pokud máte předplacenou jeho verzi Pro (třeba jste využili aktuální nabídku T-Mobilu na roční předplatné zdarma), můžete DeepSeek zkoušet bez cenzurních zásahů.
V Perplexity Pro se DeepSeek chová jako běžná AI
DeepSeeku jsem se ještě napřímo zeptal, jestli konverzace, které má uložené u mého účtu, předá čínské vládě, pokud ho k tomu vyzve. Hodně se kroutil a snažil vysvětlovat, že vše je uložené jen v mém prohlížeči a na svých serverech nic nemá. Nakonec přiznal, že to nedává smysl, když všechny konverzace vidím i na jiném počítači. Otevřeně začal psát, že je povinen při výzvě uposlechnout a data předat, ale větu ani nestihl dokončit: Sorry, that's beyond my current scope…