Umělá inteligence

Umělá inteligence se dopustí zrady, pokud to bude v její prospěch

Umělá inteligence se dopustí zrady, pokud to bude v její prospěch

Inženýři Googlu nechali umělou inteligenci hrát jednoduché hry a zjistili, že se v ní naučila výhody zrádného chování.

V okamžiku, kdy se umělá inteligence vyvine natolik, že se dokáže sama učit, myslet, či dokonce „cítit“ bez pomoci člověka, dojde k revoluci. „S množícími se experimenty a pokroky systémů umělé inteligence je zajímavé sledovat, jakými dětskými krůčky si budoucí ‚supermysl‘ musí projít,“ píší vědci ve studii, která popisuje první projevy digitální zrady a vychytralosti.

Tým programátorů nechal několik variant umělých neuronových sítí hrát hru „sběr jablek“, v níž zjišťoval, zda budou mít tendenci spíše kooperovat nebo konkurovat.

Nešlo přitom o pouhý test v rychlosti sběru, ale hledání „bodu zlomu“: oba týmy totiž byly vybaveny zbraněmi, tedy možností ten druhý „zničit“. Po tisícovce simulací vyšlo najevo, že umělá inteligence má tendenci k mírové spolupráci a rovné dělbě surovin, když je jich dostatek. Jakmile ale surovin ubývalo, zvyšovala se šance, že se vzájemně napadnou.

Zajímavostí je fakt, že menší neuronové sítě spíše kooperovaly, u vyšších a komplexnějších simulací sítí však byly velmi často pozorovány prvky zrady, sebestřednosti a vypočítavosti, kdy jiný tým využily k odvedení práce a pak jej jednoduše eliminovaly. Četnost zrady se přitom zvyšovala při postupném ubírání zdrojů.

Vědci také vyslali neuronové sítě hrát hru vlčí smečka, kdy oba týmy mohly „lovit kořist“ na vlastní pěst nebo spolupracovat. V té vyšlo najevo, že i komplexnější a zrazující sítě si „uvědomily“ výhody spolupráce, k níž začaly postupně inklinovat. Obě hry byly digitální variací na psychologickou hříčku zvanou vězňovo dilema.

Článek původně vyšel na E15.cz

Diskuze (28) Další článek: Zprávy Živě: PewDiePie provokuje, Snowden se možná vrátí domů

Témata článku: Google, Umělá inteligence, Strojové učení, Neuronová síť, Inteligence, Dilema, Umělý neuron, Prospěch


Určitě si přečtěte

Jak se šíří Covid v Česku: Čerstvá data, mapy okresů a obcí. Každý den aktualizované grafy

Jak se šíří Covid v Česku: Čerstvá data, mapy okresů a obcí. Každý den aktualizované grafy

** Vývoj COVID-19 v Česku: nakažení, úmrtí, testovaní, hospitalizovaní ** Mapa podle okresů, přehled podle věku, situace v Evropě i ve světě ** Každý den aktualizované grafy a mapy

Marek Lutonský | 169

Šmírování kamerami Googlu: Koukněte, co šíleného se objevilo na Street View

Šmírování kamerami Googlu: Koukněte, co šíleného se objevilo na Street View

Google stále fotí celý svět do své služby Street View. A novodobou zábavou je hledat v mapách Googlu vtipné záběry. Podívejte se na výběr nejlepších!

redakce | 4

Fedora 33 prostě funguje. Linux si zaslouží dobýt laptop, je to ale asi opět marné

Fedora 33 prostě funguje. Linux si zaslouží dobýt laptop, je to ale asi opět marné

** Desktopový Linux funguje a vypadá stále lépe ** Fedora 33 není výjimkou ** Ve stínu Windows a macOS tu vyrostly skvělé alternativy

Jakub Čížek | 141


Aktuální číslo časopisu Computer

Megatest mobilů do 5 500 Kč

Test levných herních notebooků

Hrajeme na Xbox Series X

Programy pro kontrolu dětí na počítači