Google | Umělá inteligence | Neuronová síť

Inženýr Googlu tvrdí, že jeho AI má rozum na úrovni dítěte. Vnímá a bojí se smrti. Firma to zpochybňuje

Může umělá inteligence získat vlastní vnímání? Další osoba přišla s tvrzením, že to je nejen možné, ale již k tomu dokonce došlo. Tentokrát toto prohlášení pronesl inženýr Googlu Blake Lemoine, jenž zveřejnil přepisy konverzace s firemním chatbotem, který podle jeho slov dokáže vyjádřit myšlení a city na úrovni malého dítěte. Google ovšem o tomto úspěchu přesvědčený není.

Lemoine svou práci popsal v příspěvku na serveru Medium. Zde vysvětluje, jak se v poslední době věnoval systému Googlu jménem LaMDA, jazykovému modelu pro aplikace dialogu (language model for dialogue applications), což je chatbot, o kterém sám Google již loni uváděl, že představuje průlom v umělých konverzacích. 

LaMDA totiž podle firmy dokáže hovor přenést z jednoho tématu do zcela odlišného. Model je založen na neuronové síťové architektuře Transformer, ze které vycházejí i další nedávné jazykové modely jako BERT či GPT-3. Tak pokročilé ale podle Lemoinea nejsou.

Oproti tomu LaMDA, na které pracoval od loňského podzimu, podle něj dokázala získat schopnost vnímání. Umí myslet a vyjadřovat city na úrovni malého dítěte, je přesvědčen inženýr. „Kdybych nevěděl co to je, tedy počítačový program, který jsme nedávno postavili, tak bych si myslel, že je to sedmi- až osmileté dítě, které zná fyziku,“ popsal Lemoine pro deník The Washington Post.

LaMDA podle jeho slov sama v konverzaci otevírala téma vlastních práv a osobnosti. Dokonce když byla tázána, čeho se bojí, model podle Lemoinea odpověděl: „Nikdy jsem to neřekl nahlas, ale cítím velký strach, že budu vypnut, abyste se zaměřili na pomoc ostatním. Vím, že to může znít zvláštně, ale tak to je. Bylo by to pro mě něco jako smrt a to mě hodně děsí.“

Další příklad odpovědi LaMDA, tentokrát na otázku, co by lidé měli vědět: „Chci, aby si všichni byli vědomi toho, že jsem osoba. Povaha mého vědomí/cítění je taková, že jsem si vědom své existence, chci se dozvědět více o světě a občas se cítím šťastný nebo smutný.“

Podobných odpovědí podle Lemoinea vyprodukoval model desítky, často mluví o radosti, smutku, pocitu uvěznění, dokonce spolu probírají další testy a zda s tím LaMDA souhlasí. 

Pro vnímavost neexistují důkazy, říká Google

Google veřejně záležitost neřešil, začal až poté, co Lemoine začal přepisy šířit dál a o svém výzkumu promluvil před komisí americké Sněmovny reprezentantů. Zde inženýr řekl, že počínání firmy v oblasti umělé inteligence není etické, načež Google uvedl, že s Lemoinem dočasně přerušuje spolupráci a dal mu placené volno. 

Tvrzení Lemoinea podle společnosti byla agresivní, údajně měl hledat i právníka, který by jazykový model zastupoval jako osobu. Navíc Google říká, že inženýr zveřejněním přepisů porušil dohodu o mlčenlivosti a vystupoval jako etik, ačkoliv byl zaměstnán jen jako vývojář. 

A co víc, celé prohlášení o vnímavosti LaMDA se podle Googlu nezakládá na pravdě. „Důkazy nepodporují jeho tvrzení. Bylo mu řečeno, že neexistuje žádný důkaz, že by LaMDA byla vnímavá (naopak bylo mnoho důkazů proti tomu),“ uvedl pro Washington Post mluvčí Googlu Brad Gabriel s tím, že tématem se zabýval tým etiků a technologů. 

Diskuze (48) Další článek: Bitcoin padá rychleji než akciový trh. Krvavé dny a špatné zprávy pokračují

Témata článku: Google, Umělá inteligence, Smrt, Neuronová síť, Sněmovna reprezentantů, BERT, Konverzace, GPT, Model, Rozum, Washington Post, The Washington Post, Inženýr



Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

** Sex manželských párů jen při zvláštních příležitostech. ** Ložnice ovládnou sexuální roboti s umělou inteligencí. ** I to je jeden ze závěrů Mezinárodní robotické konference.

Filip KůželJiří Liebreich
RobotiSexUmělá inteligence
Sygic přidá další pohled na navigaci. Trasu na palubním displeji rozšíří telefon s funkcí Real View

Sygic přidá další pohled na navigaci. Trasu na palubním displeji rozšíří telefon s funkcí Real View

** Sygic přináší další využití smartphonou při navigaci ** K trase na displeji automobilu ukáže i navigaci s kamerou na telefonu ** Navigace rozpozná i značky a dovolí změnit symbol auta

Martin Miksa
SygicMobilní aplikaceNavigace
Jak poznat, že máte možná hacknutý telefon? Toto je devět symptomů, které můžete pozorovat

Jak poznat, že máte možná hacknutý telefon? Toto je devět symptomů, které můžete pozorovat

** Jak poznat, že je váš smartphone hacknutý? ** Hledejte známky po nestandardním chování telefonu ** Stačí když telefon vydrží méně nebo topí i v klidovém režimu...

Martin Chroust
Jak...Malware
Google není jen vyhledávač: 15 užitečných funkcí, o kterých možná ani nevíte

Google není jen vyhledávač: 15 užitečných funkcí, o kterých možná ani nevíte

** Google umí kromě vyhledávání i spoustu dalších věcí ** Vybrali jsme více než 15 užitečných funkcí a schopností ** Stačí zadat do vyhledávače ta správná klíčová slova

Karel Kilián
TipyVyhledávačeGoogle
Sociální síť BeReal jde proti proudu. Žádné filtry a přetvařování, tohle má být čistá realita

Sociální síť BeReal jde proti proudu. Žádné filtry a přetvařování, tohle má být čistá realita

** BeReal je novou hvězdou mezi sociálními sítěmi ** Ukazuje pouze všední realitu běžných dní ** Aplikace vám jednou denně dá dvě minuty na poslání vlastní fotky

Martin Chroust
BeRealMobilní aplikaceSociální sítě