Učení neuronových sítí vytvořených z memristorů

Memristory přináší revoluci z pohledu efektivity výkonu a spotřeby pro použití jako pamětí. Jsou ale i skvělou hardwarovou komponentou simulující neurony a synapse.

O revolučních memristorech, dalším významném pasivním prvku po kondenzátoru, cívce a rezistoru, jsme podrobně psali již před lety. Memristor je zjednodušeně hardwarový prvek, který dokáže měnit a zapamatovat svůj odpor dle předchozího procházejícího napětí. Podobně fungují i synapse v našem mozku, kterých je několik u každého neuronu a v rámci 100 miliard neuronů v našem mozku jich je přibližně stovky trilionů.

Simulace těchto analogových prvků pomocí softwaru je značně neefektivní, takže i se současnými nejvýkonnějšími superpočítači nejsme pořádně schopni simulovat v reálném čase třeba ani mozek kočky, který má stokrát méně neuronů i synapsí. Spotřeba při takové simulaci je navíc v megawattech, zatímco našemu mozku stačí pouhé watty.

Memristor jako efektivní základní prvek neuronové sítě

I když HP plánuje v rámci The Machine použít memristory jako základní součástku pro rychlou a efektivní univerzální paměť, což samo o sobě jistě způsobí velkou revoluci, jedna oblast je mnohem významnější.

Pomocí memristoru lze efektivně na úrovni hardwaru simulovat synapse. To znamená stavbu efektivních a výkonných neuronových sítí, které budou pracovat analogově už v rámci samotného hardwaru a nikoli neefektivně přes software, který se s vysokou spotřebou energie musí přepočítávat přes několik vrstev na digitální formu jedniček a nul, se kterými pracují současné výpočetní čipy a paměti.

Skupina vědců (Mirko Prezioso, Farnood Merrikh-Bayat, Brian Hoskins, Gina Adam, Konstantin K. Likharev, Dmitri B. Strukov) vytvořila testovací hybridní konstrukci neuromorfní sítě (CrossNet) i se simulovanými spoji mezi memristory (axony, dendrity) s velmi vysokou hustotou.

Klepněte pro větší obrázek
Vytvořený obvod pro výzkum meristorových spojení

Teoreticky je možné škálovat počet spojení na vysoké hodnoty, kterými se pyšní třeba i náš mozek. A dokonce ještě efektivněji z pohledu objemu hmoty. S pětivrstvou konstrukcí s 30nm roztečí spojení obsahující dva memristory na jednu synapsi, to bude znamenat 10 000 synapsí na jeden neuron a hustotu 25 milionů neuronů na čtvereční centimetr. Výsledná spotřeba by přitom byla pouze kolem jednoho wattu.

Klepněte pro větší obrázekKlepněte pro větší obrázek
Detail 12×12 konstrukce memristorových spojení

Z pohledu efektivity (spotřeby energie a výkonu) by měla být taková konstrukce srovnatelná s lidským mozkem, ale navíc by spojení a předávání signálů mělo být mnohem rychlejší  - zpoždění signálů se očekává kolem 0,02 ms, zatímco biologické mozky mají kolem 10 ms. Až se nám roboti budou smát, že nám to myslí pomalu, víme odkud vítr vane.

Zatím 60 memristorů pro rozpoznání tří písmen

Vědcům se podařilo vytvořit základní konstrukci sítě, která zahrnovala 12 × 12 memristorových spojení. I pomocí tohoto jednoduchého spojení se podařilo vytvořit umělou neuronovou síť s deseti vstupy a třemi výstupy, což znamenalo využití 60 memristorů (každý dvě synapse).

Klepněte pro větší obrázekKlepněte pro větší obrázek
Rozpoznávací obrazce tří písmen v rámci deviti pixelů i ve verzi s chybami

Pomocí takto jednoduché sítě bylo možné efektivně naučit a rozpoznávat písmena Z, V a N v rámci devíti pixelů rozmístěných v kombinaci 3x3 pixelů. Žádné tranzistory a přímo pomocí hardwaru byla schopná tato neuronová síť se s jedním průchodem efektivně naučit a analogově rozpoznávat.

Klepněte pro větší obrázek
Zapojení umělé neuronové sítě pro teno výzkum

A to i s případnou chybou pixelu v devítipixelovém obraze. S větším počtem opakování učení velmi rychle klesalo množství chyb a perfektních výsledků dosáhla v průměru kolem 23 opakování. TO vše s nízkou spotřebou a i když některé části výpočtů byly provedené na externím zařízení, hlavní výpočetní část zastala memristorová umělá neuronová síť.

Klepněte pro větší obrázek
Množství chybných rozpoznání dle počtu opakování

Podrobné informace naleznete v oficiálním materiálu.

Diskuze (40) Další článek: Testlab: Špuntová sluchátka do tisícovky

Témata článku: Technologie, Umělá inteligence, Neuronová síť, Externí zařízení, Nature, Čtvereční centimetr, Jednoduchá konstrukce, DMI, Synapse, Síť, Axon, Gina, Jednoduché spojení, Neuron, Základní součást, Výpočetní část, Blízké setkání


Určitě si přečtěte

Nová zbraň Microsoftu proti iPadu: Levný tablet Surface Go bude stát jen deset tisíc

Nová zbraň Microsoftu proti iPadu: Levný tablet Surface Go bude stát jen deset tisíc

** Microsoft představil nový tablet Surface Go ** Nový model zaujme nízkou cenou, ale schopnostmi zařízení Surface ** Microsoft nepoužil čip ARM, ale klasický procesor od Intelu 

Karel Javůrek | 116

Google ADT-2: Miniaturní krabička s Android TV 8.0, kterou si nikdy nekoupíte

Google ADT-2: Miniaturní krabička s Android TV 8.0, kterou si nikdy nekoupíte

** Dlouho se nevědělo, co to přesně má být ** Pak se s krabičkou Google pochlubil na I/O ** Do „Chromecastu“ vtěsnal celý Android TV

Jakub Čížek | 24

Apple: naše mapy budou nejlepší na světě. Tajně jsme na nich pracovali několik let

Apple: naše mapy budou nejlepší na světě. Tajně jsme na nich pracovali několik let

** Apple odhalil své plány na zcela nové mapy ** Několik let pracuje na nových mapách, které by měly předběhnout konkurenci ** Objeví se s příchodem iOS 12 pro vybrané státy

Karel Javůrek | 50

15 věcí, které umí Windows 10, ale možná o nich vůbec nevíte

15 věcí, které umí Windows 10, ale možná o nich vůbec nevíte

** Systém Windows 10 umí spoustu užitečných drobností ** O mnoha praktických funkcích pravděpodobně ani nevíte ** Poznejte užitečné tipy, které se vám mohou hodit každý den

Vladislav Kluska | 36

Alan Turing: Genius, který matematicky stvořil počítač

Alan Turing: Genius, který matematicky stvořil počítač

Řešením matematického problému se dostal k modelu teoretického stroje, který nese jeho jméno a je základem logiky univerzálních počítačů.

Pavel Tronner | 56

Porno insider: Jak virtuální realita vstupuje do filmů pro dospělé

Porno insider: Jak virtuální realita vstupuje do filmů pro dospělé

** Pornografie údajně představuje třetinu internetové obsahu a je technologický tahounem ** Do erotického obsahu postupně zasahuje i virtuální realita ** Kromě vizuálního vjemu se pracuje také na virtuálním uspokojení toho hmatového

Jan Dudek | 28

Apple dal do MacBooku procesor Core i9 a 4TB SSD. Ani se neptejte, co za to chce...

Apple dal do MacBooku procesor Core i9 a 4TB SSD. Ani se neptejte, co za to chce...

** Apple aktualizoval notebooky MacBook Pro, dostaly nový hardware ** Těšit se můžete na nové procesory a větší paměť ** Cena nejvybavenějšího modelu překročí 200 tisíc korun

Martin Miksa | 99


Aktuální číslo časopisu Computer

Velký test 18 bezdrátových sluchátek

Vše o přechodu na DVB-T2

Procesory AMD opět porážejí Intel

7 NVMe M.2 SSD v přímém souboji