Google Brain: Vědci z Kalifornie proti sobě postavili tři umělé inteligence. Začaly spolupracovat

  • Alice se naučila šifrovat zprávu pro Boba
  • Eva se pokoušela komunikaci odposlouchávat a dešifrovat
  • Vědci proti sobě postavili neuronové sítě
Google Brain: Vědci z Kalifornie proti sobě postavili tři umělé inteligence. Začaly spolupracovat

Výkladní skříní umělé inteligence a strojového učení made in Google se v posledních letech stala jeho londýnská laboratoř DeepMind. Nutno ovšem podotknout, že zdaleka není jediná a internetová jednička má své specialisty i v Silicon Valley.

Jeden z tamních týmů se docela příznačně jmenuje Google Brain a před pěti lety jej zakládal uznávaný specialista na A.I. Andrew Ng, který dnes působí jako hlavní výzkumník čínského hegemona Baidu.

Google Mozek vládne všem

Google Mozek se za posledních pět let docela činil. Zatímco londýnský DeepMind se věnuje především primárnímu výzkumu, s prací Mozku se dnes setkává každý surfař, který navštíví samotný Google, YouTube, v kapse nosí telefon s Androidem a fotky má na Google Photos.

Klepněte pro větší obrázek
Vyhledávání vlastních snímků podle obsahu na Google Photos

Právě tyto služby totiž používají techniky strojového učení pro hlasové ovládání a diktování, rozpoznávání obrázků nebo třeba vyhledávání podobných videí na YouTube.

My v Česku nicméně dobře víme, že skutečně inteligentní umělý mozek spatří světlo světa až koncem 25. století a naši potomci mu budou říkat CML.

Když se začnou neuronové sítě učit spolupracovat

Každopádně zpět do Mountain View. Abychom si lépe přiblížili, čím se tamní specialisté na strojové učení zrovna baví, představme si jednu z jejich aktuálních studií (PDF) publikovanou v akademickém archivu Arxiv. Autoři ji stroze pojmenovali Learning to protect communications with adversarial neural cryptography, což je sice asi tak kreativní, jako když nazvete cukrovinku Komprimátový mix, nicméně zdání v tomto případě klame, ještě před pár lety by totiž bylo něco podobného snad jen námětem laciného sci-fi.

Oč tedy jde? Vědci vytvořili dvě neuronové sítě Alici a Boba, kterým dali za úkol, ať se spolu naučí šifrovaně komunikovat, a třetí Evu, která dostala za úkol tuto komunikaci odposlouchávat a šifru prolomit. A pokud píšu, že dostali za úkol naučit se šifrovat, myslím to doslova. Ani jeden ze strojů netušil, co to skutečně znamená.

Alce šifruje, Bob dešifruje, Eva odposlouchává

Jak tedy stroje pochopily, k čemu šifrování slouží? Pomocí jednoduchých signálů o činnosti ostatních botů. Pojďme si to vysvětlit hezky popořadě.

Alice jako jediná měla zprávu v původním znění (plaintext) a šifrovací klíč. Její kamarád Bob měl k dispozici tentýž klíč (symetrické šifrování) a zlá Eva měla přístup ke komunikaci mezi Alicí a Bobem.

Klepněte pro větší obrázek
P je původní zpráva (plaintext), K je šifrovací/dešifrovací klíč, C je zašifrovaná zpráva a Peve a Pbob pak dešifrovaný plaintext v podání obou botů

Pokud se Evě podařilo získat původní zprávu Alice, ta obdržela chybový signál, takže věděla, že musí něco udělat, aby Eva na obsah psaníčka pro Boba už příště nepřišla. Pozměnila tedy pomocí klíče pár bitů zprávy, a tak vytvořila první šifru! Jenže…

Jenže smutnému Bobovi náhle dorazila změť znaků, se kterou si nevěděl rady. Použil tedy společný klíč a začal zpočátku víceméně náhodně zkoušet všechny vzájemné kombinace, přičemž po každé takové zkoušce dostal signál o tom, jak daleko je při svém bádání od originálu.

Čili si to zrekapitulujeme. Na základě zpětných signálů Alice věděla, že musí původní zprávu nějakým způsobem skrýt před Evou, ale zároveň tak, aby ji byl Bob schopen rozlousknout. Musela tedy najít co možná nejefektivnější šifru. Sama! Bez zástupu špičkových matematiků ze Stanfordu, bez jediné přečtené učebnice pokročilé matematiky pro vyšší dívčí a tak dále.

Eva naštěstí nevyhrála (zatím)

Docela unikátní experiment přinesl zajímavé výsledky, potvrdil totiž, že se všichni začali postupnými průchody neuronovou sítí zlepšovat. Během prvních pěti tisíců průchodů neuronovou sítí se ale nic moc zajímavého nedělo. Bob i Eva měli zhruba stejnou 50% chybovost.

Pak však konečně lehce natvrdlý Bob pochopil Aliččin algoritmus, začal se dramaticky zlepšovat a okolo osmi tisíců průchodů již vykazoval jen malou chybu. Alice však používala velmi slabou šifru, po čase se tedy začala zlepšovat i Eva, která přitom neznala šifrovací klíč. Prostou výpočetní rychlostí a hádáním snížila chybovost asi na 30 %.

Klepněte pro větší obrázek
Postupný vývoj šifrovacích a dešifrovacích schopností Alice, Boba a Evy podle jejich chybovosti při odhadování původní zprávy

Jak jsem však napsal výše, všichni tři byli pomocí jednoduchých signálů informováni, jak se daří ostatním. Když tedy Alice zjistila, že se její úhlavní sokyně zlepšuje podobně jako Bob, zvýšila složitost šifry. Bob na chvíli zaváhal, díky mnoha tisícům předchozích průchodů (tedy díky zkušenosti) už ale postup Alice dobře znal, čili okolo 13 000. průchodu již zvládl i nový algoritmus a přestal zcela dělat chyby.

A Eva? Ta měla bez klíče smůlu, její chybovost opět vzrostla zhruba na 50 %, a tak nikdy nedokázala dešifrovat zprávu jako celek.

Jako děti

Alice sice neměla dostatek intelektu a zkušeností (paralela velikosti neuronové sítě a počtu průchodů) k tomu, aby vynalezla nějakou prakticky použitelnou novou šifru, to ale nebyl ani její účel. Všichni tři spíše napodobovali děti, které dostaly za úkol předávat zprávy, které ten třetí nerozluští. A v tomto směru experiment uspěl na jedničku.

Potvrdil, že neuronová síť může docela zajímavě pomocí signálů o dílčích úspěších kooperovat s další a navzájem mohou upravovat své postupy. Jinými slovy, vítejte ve světě, kde se stroje učí mluvit, skládat muziku, porážejí člověka v extrémně komplexních logických hrách, což mnozí experti ještě loni považovali za nemožné (anebo možné až za pět-deset let), no a nyní se tyto stroje učí i kooperovat. A jde jim to.

Jednoho dne se v takový kooperující organizmus možná promění i operační systém, ve kterém se budou aplikace postupným učením co nejefektivněji prát o systémové prostředky, prioritu CPU a internetovou konektivitu takovým způsobem, aby počítač jako celek fungoval neskonale lépe než v dobách, kdy jeho software psal výhradně člověk z masa a kostí.

Témata článku: Software, Google, Technologie, Věda, Umělá inteligence, Neuronová síť, Strojové učení, DeepMind, Alice, Google Photos, Alicia, Protect

40 komentářů

Nejnovější komentáře

  • strasidlo80 3. 11. 2016 2:37:47
    Jozef Kostelanský zde má jediný smysluplný příspěvek. Uvážím-li, že sem...
  • Jozef Kostelanský 2. 11. 2016 23:25:28
    V budúcnosti bude jedno z najlepšie platených zamestnaní "tréner umelej...
  • marzipano 2. 11. 2016 11:17:08
    Nevim, ale v reálném světě asi nikdo nedosává konstantní feedback, jak...
Určitě si přečtěte

To tu ještě nebylo. Specialisté ukázali, že zavirované mohou být i titulky SRT

To tu ještě nebylo. Specialisté ukázali, že zavirované mohou být i titulky SRT

** Stáhnete si film a titulky třeba z OpenSubtitles.org ** A osud vás za ten warez záhy potrestá ** Specialisté totiž ukázali, že i v titulcích může být schovaný virus

24.  5.  2017 | Jakub Čížek | 58

Pojďme programovat elektroniku: Postavíme si bezdotykové ovládání PC za stokorunu

Pojďme programovat elektroniku: Postavíme si bezdotykové ovládání PC za stokorunu

** Vzpomínáte na Leap Motion? ** Dnes si postavíme něco podobného za zlomek ceny ** Pohrajeme si s optickým detektorem gest

Včera | Jakub Čížek | 8

WannaCry se neměl vůbec rozšířit. Stačilo, abychom používali Windows Update

WannaCry se neměl vůbec rozšířit. Stačilo, abychom používali Windows Update

** WannaCry se masivně rozšířil kvůli zranitelnosti ve Windows ** Ta mu umožnila, aby se pokusil sám napadnout další počítače ** Jenže ta chyba už je dva měsíce opravená!

22.  5.  2017 | Jakub Čížek | 97


Aktuální číslo časopisu Computer

Bojujeme proti Fake News

Dva velké testy: fotoaparáty a NASy

Co musíte vědět o změně evropského roamingu

Radíme s výběrem základní desky