Umělá inteligence

Umělá inteligence se dopustí zrady, pokud to bude v její prospěch

Umělá inteligence se dopustí zrady, pokud to bude v její prospěch

Inženýři Googlu nechali umělou inteligenci hrát jednoduché hry a zjistili, že se v ní naučila výhody zrádného chování.

V okamžiku, kdy se umělá inteligence vyvine natolik, že se dokáže sama učit, myslet, či dokonce „cítit“ bez pomoci člověka, dojde k revoluci. „S množícími se experimenty a pokroky systémů umělé inteligence je zajímavé sledovat, jakými dětskými krůčky si budoucí ‚supermysl‘ musí projít,“ píší vědci ve studii, která popisuje první projevy digitální zrady a vychytralosti.

Tým programátorů nechal několik variant umělých neuronových sítí hrát hru „sběr jablek“, v níž zjišťoval, zda budou mít tendenci spíše kooperovat nebo konkurovat.

Nešlo přitom o pouhý test v rychlosti sběru, ale hledání „bodu zlomu“: oba týmy totiž byly vybaveny zbraněmi, tedy možností ten druhý „zničit“. Po tisícovce simulací vyšlo najevo, že umělá inteligence má tendenci k mírové spolupráci a rovné dělbě surovin, když je jich dostatek. Jakmile ale surovin ubývalo, zvyšovala se šance, že se vzájemně napadnou.

Zajímavostí je fakt, že menší neuronové sítě spíše kooperovaly, u vyšších a komplexnějších simulací sítí však byly velmi často pozorovány prvky zrady, sebestřednosti a vypočítavosti, kdy jiný tým využily k odvedení práce a pak jej jednoduše eliminovaly. Četnost zrady se přitom zvyšovala při postupném ubírání zdrojů.

Vědci také vyslali neuronové sítě hrát hru vlčí smečka, kdy oba týmy mohly „lovit kořist“ na vlastní pěst nebo spolupracovat. V té vyšlo najevo, že i komplexnější a zrazující sítě si „uvědomily“ výhody spolupráce, k níž začaly postupně inklinovat. Obě hry byly digitální variací na psychologickou hříčku zvanou vězňovo dilema.

Článek původně vyšel na E15.cz

Diskuze (28) Další článek: Zprávy Živě: PewDiePie provokuje, Snowden se možná vrátí domů

Témata článku: Google, Umělá inteligence, Neuronová síť, Strojové učení, Prospěch, Inteligence, Umělý neuron, Bude, Dilema


Určitě si přečtěte

CZ.NIC bezplatně naděluje USB/NFC klíče. Jak jej získat?
Lukáš Václavík
CZ.NICeGovernment
Dostali jste nový počítač? Tohle s ním udělejte, než ho začnete používat

Dostali jste nový počítač? Tohle s ním udělejte, než ho začnete používat

** Každý nový počítač si zaslouží počáteční péči ** Odinstalujte bloatware a nezapomeňte na vhodné nastavení ** Poradíme, jak se o počítač s Windows 10 postarat

David Polesný, Stanislav Janů | 71

David PolesnýStanislav Janů
PočítačeNotebooky
Apple Macbook Air M1: testujeme výkon, výdrž, a hlavně kompatibilitu aplikací [průběžně aktualizováno]

Apple Macbook Air M1: testujeme výkon, výdrž, a hlavně kompatibilitu aplikací [průběžně aktualizováno]

** Testujeme Apple Macbook Air s procesorem M1 ** Zajímá nás nejen výkon, ale zejména kompatibilita aplikací ** Článek je průběžně doplňován na základě vašich dotazů

Jiří Kuruc | 205

Jiří Kuruc
Apple
Pozor na tyto doplňky pro Chrome a Edge. Mohou obsahovat malware, varuje Avast
Jakub Čížek
MalwareProhlížeče
Testy procesorů Ryzen 5000: AMD překonalo Intel ve všech směrech

Testy procesorů Ryzen 5000: AMD překonalo Intel ve všech směrech

** AMD začalo prodávat nové procesory Ryzen 5000 s architekturou Zen 3 ** K dispozici jsou nezávislé testy z celého světa ** AMD překonává Intel ve všech směrech

Karel Javůrek | 69

Karel Javůrek
ProcesoryTestyAMD
26 užitečných rozšíření pro Chrome: Naučte prohlížeč nové věci

26 užitečných rozšíření pro Chrome: Naučte prohlížeč nové věci

** Prohlížeč Chrome obsahuje širokou škálu funkcí, neumí ale všechno ** Jeho schopnosti můžete rozšířit pomocí rozšíření ** Vybrali jsme pro vás zajímavé a užitečné doplňky

Karel Kilián | 44

Karel Kilián
Doplňky do prohlížečeChromeProhlížeče
Jak v prohlížeči vypnout oznámení zasílaná webovými stránkami

Jak v prohlížeči vypnout oznámení zasílaná webovými stránkami

** Obtěžují vás neustálé dotazy webů, zda chcete zobrazovat oznámení? ** Můžete je zakázat, a to jak kompletně, tak i pro jednotlivé stránky ** Připravili jsme návody pro Chrome, Firefox, Edge a Operu

Karel Kilián | 11

Karel Kilián
Jak na InternetTipyProhlížeče

Aktuální číslo časopisu Computer

Jak prodloužit výdrž notebooku

Velké testy: gamepady a inkoustové tiskárny

Důkladný test Sony Playstation 5