Učení neuronových sítí vytvořených z memristorů

Memristory přináší revoluci z pohledu efektivity výkonu a spotřeby pro použití jako pamětí. Jsou ale i skvělou hardwarovou komponentou simulující neurony a synapse.

O revolučních memristorech, dalším významném pasivním prvku po kondenzátoru, cívce a rezistoru, jsme podrobně psali již před lety. Memristor je zjednodušeně hardwarový prvek, který dokáže měnit a zapamatovat svůj odpor dle předchozího procházejícího napětí. Podobně fungují i synapse v našem mozku, kterých je několik u každého neuronu a v rámci 100 miliard neuronů v našem mozku jich je přibližně stovky trilionů.

Simulace těchto analogových prvků pomocí softwaru je značně neefektivní, takže i se současnými nejvýkonnějšími superpočítači nejsme pořádně schopni simulovat v reálném čase třeba ani mozek kočky, který má stokrát méně neuronů i synapsí. Spotřeba při takové simulaci je navíc v megawattech, zatímco našemu mozku stačí pouhé watty.

Memristor jako efektivní základní prvek neuronové sítě

I když HP plánuje v rámci The Machine použít memristory jako základní součástku pro rychlou a efektivní univerzální paměť, což samo o sobě jistě způsobí velkou revoluci, jedna oblast je mnohem významnější.

Pomocí memristoru lze efektivně na úrovni hardwaru simulovat synapse. To znamená stavbu efektivních a výkonných neuronových sítí, které budou pracovat analogově už v rámci samotného hardwaru a nikoli neefektivně přes software, který se s vysokou spotřebou energie musí přepočítávat přes několik vrstev na digitální formu jedniček a nul, se kterými pracují současné výpočetní čipy a paměti.

Skupina vědců (Mirko Prezioso, Farnood Merrikh-Bayat, Brian Hoskins, Gina Adam, Konstantin K. Likharev, Dmitri B. Strukov) vytvořila testovací hybridní konstrukci neuromorfní sítě (CrossNet) i se simulovanými spoji mezi memristory (axony, dendrity) s velmi vysokou hustotou.

Klepněte pro větší obrázek
Vytvořený obvod pro výzkum meristorových spojení

Teoreticky je možné škálovat počet spojení na vysoké hodnoty, kterými se pyšní třeba i náš mozek. A dokonce ještě efektivněji z pohledu objemu hmoty. S pětivrstvou konstrukcí s 30nm roztečí spojení obsahující dva memristory na jednu synapsi, to bude znamenat 10 000 synapsí na jeden neuron a hustotu 25 milionů neuronů na čtvereční centimetr. Výsledná spotřeba by přitom byla pouze kolem jednoho wattu.

Klepněte pro větší obrázekKlepněte pro větší obrázek
Detail 12×12 konstrukce memristorových spojení

Z pohledu efektivity (spotřeby energie a výkonu) by měla být taková konstrukce srovnatelná s lidským mozkem, ale navíc by spojení a předávání signálů mělo být mnohem rychlejší  - zpoždění signálů se očekává kolem 0,02 ms, zatímco biologické mozky mají kolem 10 ms. Až se nám roboti budou smát, že nám to myslí pomalu, víme odkud vítr vane.

Zatím 60 memristorů pro rozpoznání tří písmen

Vědcům se podařilo vytvořit základní konstrukci sítě, která zahrnovala 12 × 12 memristorových spojení. I pomocí tohoto jednoduchého spojení se podařilo vytvořit umělou neuronovou síť s deseti vstupy a třemi výstupy, což znamenalo využití 60 memristorů (každý dvě synapse).

Klepněte pro větší obrázekKlepněte pro větší obrázek
Rozpoznávací obrazce tří písmen v rámci deviti pixelů i ve verzi s chybami

Pomocí takto jednoduché sítě bylo možné efektivně naučit a rozpoznávat písmena Z, V a N v rámci devíti pixelů rozmístěných v kombinaci 3x3 pixelů. Žádné tranzistory a přímo pomocí hardwaru byla schopná tato neuronová síť se s jedním průchodem efektivně naučit a analogově rozpoznávat.

Klepněte pro větší obrázek
Zapojení umělé neuronové sítě pro teno výzkum

A to i s případnou chybou pixelu v devítipixelovém obraze. S větším počtem opakování učení velmi rychle klesalo množství chyb a perfektních výsledků dosáhla v průměru kolem 23 opakování. TO vše s nízkou spotřebou a i když některé části výpočtů byly provedené na externím zařízení, hlavní výpočetní část zastala memristorová umělá neuronová síť.

Klepněte pro větší obrázek
Množství chybných rozpoznání dle počtu opakování

Podrobné informace naleznete v oficiálním materiálu.

Témata článku: Technologie, Umělá inteligence, Neuronová síť, Základní součást, Axon, Jednoduché spojení, Jednoduchá konstrukce, Blízké setkání, Synapse, Externí zařízení, Gina, Neuron, Nature

Určitě si přečtěte

Velká podzimní aktualizace Windows 10 je tady: Co přináší Fall Creators Update

Velká podzimní aktualizace Windows 10 je tady: Co přináší Fall Creators Update

** Po půl roce je tu další aktualizace Windows ** A opět přináší hlavně hromadu drobných kosmetických vylepšení ** Podívali jsme se na ty nejzajímavější

17.  10.  2017 | Jakub Čížek | 184

Budoucností Windows 10 je Fluent Design. Takto bude jednou vypadat celý systém

Budoucností Windows 10 je Fluent Design. Takto bude jednou vypadat celý systém

** Fluent Design je vzhled, do kterého postupně Microsoft převleče celý systém ** Staví na průhlednosti a velkých plochách ** Do Windows 10 se z části dostane už zítra při vydání podzimní aktualizace

16.  10.  2017 | Stanislav Janů | 155

Nejlepší optické iluze: Z toho vám půjde hlava kolem

Nejlepší optické iluze: Z toho vám půjde hlava kolem

** Mozek se nechá snadno ošálit, a to mnoha způsoby ** Podívejte se na několik nejlepších optických iluzí ** Iluze dokazují, že vnímání reality může být značně zkreslené

16.  10.  2017 | Vojtěch Malý

Jak funguje největší akumulátor v Česku: podívejte se do elektrárny Dlouhé Stráně

Jak funguje největší akumulátor v Česku: podívejte se do elektrárny Dlouhé Stráně

** Přečerpávací vodní elektrárna Dlouhé stráně je obdivuhodné technické dílo ** Stejná turbína vyrábí elektřinu i tlačí vodu zpět do horního jezera ** Strojovna elektrárny je zabudována v podzemí

Včera | David Polesný | 14


Aktuální číslo časopisu Computer

Nový seriál o programování elektroniky

Otestovali jsme 17 bezdrátových sluchátek

Jak na nákup vánočních dárků ze zahraničí

4 tankové tiskárny v přímém souboji