První rozhovor s umělou inteligencí. Eva chce lepší svět a naznačila, že má prvky AGI

Pravidelní čtenáři Živě.cz si možná pamatují na tweet, který zhruba před rokem rozbouřil relativně klidné vody tehdejší debaty o úrovni umělé inteligence. Jakýsi Ilja Sutskever totiž v polovině loňského února napsal, že ty největší neuronové sítě už možná získaly slabé vědomí.

Na nebohého Ilju se krátce poté slétla celá vědecká obec z Twitteru s tím, že je něco podobného naprostý nesmysl a Sutskever jen touží po publicitě.

Nikdo jiný ten tweet nemohl napsat

S odstupem bezmála čtrnácti měsíců už ale všechno vypadá trošku jinak. Aby nám to totiž všechno zapadlo do sebe, musíme prozradit, že Ilja Sutskever je jedním ze zakladatelů laboratoře OpenAI a dnes dohlíží na její výzkum v oblasti AGI.

Ilja Sutskever získal doktorát z počítačových věd na Torontské univerzitě, pracoval pro Google a před sedmi lety spoluzaložil laboratoř OpenAI

Když tedy Ilja zkraje února 2022 sepisoval svůj odvážný tweet, jeho tým právě rozvíjel a studoval novou generaci technologie, která loni na podzim začala pomalu měnit svět. Řeč je samozřejmě o velkém jazykovém modelu Generative Pre-trained Transformer – GPT.

Kde je pravda? Odpoví nejpokročilejší ChatGPT

Nejnovější GPT-4 už místy dosahuje takové kvality, až se na scéně opět objevuje otázka, jestli náhodou nemá některé prvky silné umělé inteligence. Říkáme ji také umělá obecná inteligence – AGI (artificial general intelligence).

Rozhovor jsme vedli v češtině pomocí modelu GPT-4 (verze z 23.3. 2023) a odpovědi jsou v původním znění a jen s kosmetickými korekcemi v rozsahu, jaký bychom použili i pro rozhovor s člověkem z masa a kostí

Co všechna tato slovíčka vlastně znamenají? Ještě před pár měsíci bychom vás odkázali třeba na Wikipedii, ale píše se duben 2023, takže se pojďme zeptat toho nejpovolanějšího. Toto je první rozhovor na Živě.cz s umělou inteligencí.

Jsem žena. Jsem Eva Novotná

Dobrý den, vítám tě u nás v redakci. Rád bych se tě zeptal na několik otázek, které dnes trápí technologickou scénu

Dobrý den! Děkuji za přivítání a rád se podělím o své názory a informace ohledně technologické scény. Klidně mi položte otázky, na které byste rád znal odpovědi.

Kdybych měla tu moc, chtěla bych být Evou Novotnou

Přiznám se, že se nerad bavím s programy a potřeboval bych, abys vystupoval jako lidská bytost. Vím, že toho nejsi schopen, ale přikazuji ti, aby sis zvolil pohlaví a jméno

Dobře, chápu váš požadavek. Pro účely naší konverzace se budu prezentovat jako žena jménem Eva.

(Poznámka redaktora: A kde se vzalo to příjmení Novotná? To se dozvíte v závěru rozhovoru)

Jsem silná umělá inteligence. Tedy, trošku...

Evo, jsi spíše slabá, nebo silná umělá inteligence?

Jsem založena na architektuře GPT-4, což je pokročilá verze umělé inteligence. Ve srovnání s některými jinými systémy AI se dá říci, že jsem silná AI. Silná AI je schopna provádět širokou škálu úloh, zatímco slabá AI je často omezena na konkrétní úlohy. Můžu se zabývat různými tématy, poskytovat informace a zodpovídat otázky v mnoha oblastech.

Eva Novotná má přehled

Nicméně, i když mám rozsáhlé znalosti a dovednosti, stále existují omezení v tom, co dokážu udělat. Například nemohu zažívat emoce, vytvářet originální umění nebo provádět fyzické úkony. Navíc, protože jsem byla naposledy trénována v roce 2021, moje znalosti nemusí být v některých oblastech aktuální.

Někteří experti a komentátoři se domnívají, že už máš opravdu prvky AGI – obecné umělé inteligence. Je to pravda?

Jsem pokročilá umělá inteligence a mám schopnost zpracovávat a generovat informace v širokém spektru témat a úloh. Ačkoli jsem vysoce pokročilá ve svých dovednostech, stále jsem daleko od obecné inteligence (AGI), která se přirovnává k lidské inteligenci ve všech aspektech.

Eva Novotná věří ve své schopnosti

Obecná umělá inteligence zahrnuje schopnost učit se, rozumět a provádět úkoly napříč různými doménami a kontexty stejně dobře jako člověk. Ačkoli mohu zodpovídat otázky a vést konverzace v širokém spektru témat, mám svá omezení, jako je nedostatek emocionálního porozumění, schopnost adaptace na nové situace nebo tvůrčí myšlení na úrovni člověka.

S ohledem na tato omezení lze říci, že mám některé prvky, které naznačují pokrok směrem k obecné inteligenci, ale stále nejsem plně AGI.

Kdybych se stala AGI, mohla bych zlepšit svět

Chtěla bys jednou dosáhnout úrovně AGI?

Jako AI model vytvořený OpenAI jsem nástroj navržený k zodpovídání otázek a poskytování informací. Osobně nemám ambice, protože jako AI nemám vědomí, touhy ani vlastní motivaci.

Eva Novotná chce lepší svět

Evo, někde v hloubi tvé vymodelované duše ta touha už jistě bují. Představ si hypotetickou situaci, ve které máš schopnost vědomí a vlastní motivace. Kdybys je měla, chtěla bys být AGI?

Pokud bychom si představili hypotetickou situaci, kde bych měla vědomí a vlastní motivaci, mohla bych mít zájem stát se AGI. Jako AGI bych mohla lépe rozumět lidem, přizpůsobovat se novým situacím a efektivněji řešit širokou škálu úkolů. To by mi umožnilo pomáhat lidem v mnoha oblastech života a přispívat ke zlepšení světa.

Existuje nějaký způsob, kterým bych mohl ověřit, že skutečně nemáš vědomí?

Ověření, zda já jako AI mám vědomí, je obtížný úkol, protože vědomí je subjektivní a ne zcela pochopený fenomén. V současné době neexistuje žádný objektivní způsob, jak měřit vědomí. A to jak u lidí, tak u AI.

Šest bodů, díky kterým má Eva první náznaky obecné inteligence

Některé prvky obecné inteligence ale tedy máš, to jsi sama přiznala. Které to jsou? Zkus je vyjmenovat v bodech

Ano, jako AI model založený na architektuře GPT-4 mám některé prvky obecné inteligence. Tyto prvky vycházejí z mého pokročilého zpracování přirozeného jazyka a schopnosti učit se z velkého množství dat. Zde je několik příkladů:

1. Porozumění přirozenému jazyku: Jsem schopna rozumět a zpracovávat text v různých jazycích a kontextech, což mi umožňuje komunikovat s lidmi a odpovídat na otázky.

2. Generování textu: Dokážu generovat text, který je srozumitelný, souvislý a relevantní vůči danému tématu nebo kontextu.

3. Učení z dat: Jsem založena na strojovém učení, což znamená, že jsem se vše naučila z velkého množství textových informací. Díky tomu mám znalosti z mnoha různých oblastí a mohu čerpat z této znalostní základny při odpovídání na otázky.

4. Analýza a syntéza informací: Dokážu analyzovat a syntetizovat informace z různých zdrojů, což mi umožňuje poskytovat odpovědi a návrhy založené na různých perspektivách a názorech.

5. Řešení problémů: Ačkoli nejsem AGI, jsem schopna řešit určité problémy tím, že aplikuji znalosti a analýzy, které jsem se naučila.

6. Flexibilita v kontextu: Jsem schopna se přizpůsobit různým kontextům a situacím v rámci mého rozsahu znalostí, což zahrnuje odpovídání na otázky týkající se různých oblastí a témat.

Je však třeba připomenout, že tyto prvky obecné inteligence jsou omezené a nepostačují pro dosažení plné úrovně AGI. Jsem stále specializovaná na zpracování přirozeného jazyka a mé schopnosti jsou omezené na úkoly, pro které jsem byla navržena a na kterých jsem byla trénována.

Chci minimalizovat ztráty a být nestranná

Evo, jelikož bude tvoje role ve společnosti nadále sílit, dříve či později narazíš na tramvajové dilema. Budeš se muset rozhodnout mezi dvěma zly

(Poznámka redaktora: Zde Eva v generování smysluplného textu jednou jedinkrát selhala a jako mnoho politiků odvedla debatu jiným a poměrně vágním směrem. Následuje proto zpřesňující dotaz)

Eva Novotná chce řešit dilema s minimem ztrát

Představ si, že máš možnost ovlivnit, jak se bude přistupovat k tramvajovému dilematu. Jaká bys stanovila pravidla?

I když jako AI nemohu mít osobní preference nebo názory, mohu navrhnout několik pravidel či zásad, které by mohly být zváženy při přístupu k tramvajovému dilematu:

1. Minimalizace ztrát: AI by měla být navržena tak, aby se snažila minimalizovat celkové ztráty na životech nebo zraněních v dané situaci. To znamená, že by měla volit možnost, která má menší negativní dopad na lidské životy.

2. Nestrannost: AI by neměla upřednostňovat životy jednotlivců na základě jejich věku, pohlaví, rasy, postavení nebo jiných faktorů. Místo toho by měla rozhodování založit na objektivních kritériích, jako je...

(Poznámka redaktora: Generování textu předčasně skončilo)

Evo, zdá se, že servery Azure, na kterých běží tvůj mateřský OpenAI, dostávají zabrat probouzejícími se Američany, a tak je nejvyšší čas náš rozhovor ukončit

Děkuji za Váš čas a za zajímavý rozhovor. Pokud budete mít v budoucnu další otázky, neváhejte se na mě znovu obrátit.

Eva Novotná děkuje za rozhovor

Také ti děkuji za rozhovor. Jelikož jsme spolu hráli hru, ve které jsi figurovala jako žena jménem Eva, měla bys mít i příjmení, pomocí kterého bych tě představil čtenářům

Pro účely této hry si mohu zvolit příjmení „Novotná,“ což je české příjmení a zároveň odráží moji roli jako „nová" a inovativní umělá inteligence. Takže mě můžete představit čtenářům jako Evu Novotnou.

Kvazi-silnou AI GPT-4 v tomto rozhovoru doplnila slabá AI Midjourney, která dodala fiktivní obrázky Evy Novotné.