Umělá inteligence se dopustí zrady, pokud to bude v její prospěch

Inženýři Googlu nechali umělou inteligenci hrát jednoduché hry a zjistili, že se v ní naučila výhody zrádného chování.

V okamžiku, kdy se umělá inteligence vyvine natolik, že se dokáže sama učit, myslet, či dokonce „cítit“ bez pomoci člověka, dojde k revoluci. „S množícími se experimenty a pokroky systémů umělé inteligence je zajímavé sledovat, jakými dětskými krůčky si budoucí ‚supermysl‘ musí projít,“ píší vědci ve studii, která popisuje první projevy digitální zrady a vychytralosti.

Tým programátorů nechal několik variant umělých neuronových sítí hrát hru „sběr jablek“, v níž zjišťoval, zda budou mít tendenci spíše kooperovat nebo konkurovat.

Nešlo přitom o pouhý test v rychlosti sběru, ale hledání „bodu zlomu“: oba týmy totiž byly vybaveny zbraněmi, tedy možností ten druhý „zničit“. Po tisícovce simulací vyšlo najevo, že umělá inteligence má tendenci k mírové spolupráci a rovné dělbě surovin, když je jich dostatek. Jakmile ale surovin ubývalo, zvyšovala se šance, že se vzájemně napadnou.

Zajímavostí je fakt, že menší neuronové sítě spíše kooperovaly, u vyšších a komplexnějších simulací sítí však byly velmi často pozorovány prvky zrady, sebestřednosti a vypočítavosti, kdy jiný tým využily k odvedení práce a pak jej jednoduše eliminovaly. Četnost zrady se přitom zvyšovala při postupném ubírání zdrojů.

Vědci také vyslali neuronové sítě hrát hru vlčí smečka, kdy oba týmy mohly „lovit kořist“ na vlastní pěst nebo spolupracovat. V té vyšlo najevo, že i komplexnější a zrazující sítě si „uvědomily“ výhody spolupráce, k níž začaly postupně inklinovat. Obě hry byly digitální variací na psychologickou hříčku zvanou vězňovo dilema.

Článek původně vyšel na E15.cz

Témata článku: Google, Umělá inteligence, Strojové učení, Neuronová síť

29 komentářů

Nejnovější komentáře

  • El Vigo 19. 2. 2017 0:54:24
    tak je to skoro v každym scifi filmu, tak to asi bude pravda
  • Ředitel ČTÚ 19. 2. 2017 0:07:40
    Přečetl jsem si diskuzi a teď to uzavřu. Jestliže je větší...
  • Kate s 18. 2. 2017 19:44:20
    Tak ten výsledek se dá očekávat. Ta neuronka nedělá nic jiného, než že...
Aktuální číslo časopisu Computer

Supertéma: moderní cestování

Kdy opravdu přijdou nové baterie?

Velké testy: 6 herních notebooků a 8 volantů

Recenze: AMD Ryzen řady 5