reklama

Učení neuronových sítí vytvořených z memristorů

Memristory přináší revoluci z pohledu efektivity výkonu a spotřeby pro použití jako pamětí. Jsou ale i skvělou hardwarovou komponentou simulující neurony a synapse.

O revolučních memristorech, dalším významném pasivním prvku po kondenzátoru, cívce a rezistoru, jsme podrobně psali již před lety. Memristor je zjednodušeně hardwarový prvek, který dokáže měnit a zapamatovat svůj odpor dle předchozího procházejícího napětí. Podobně fungují i synapse v našem mozku, kterých je několik u každého neuronu a v rámci 100 miliard neuronů v našem mozku jich je přibližně stovky trilionů.

Simulace těchto analogových prvků pomocí softwaru je značně neefektivní, takže i se současnými nejvýkonnějšími superpočítači nejsme pořádně schopni simulovat v reálném čase třeba ani mozek kočky, který má stokrát méně neuronů i synapsí. Spotřeba při takové simulaci je navíc v megawattech, zatímco našemu mozku stačí pouhé watty.

Memristor jako efektivní základní prvek neuronové sítě

I když HP plánuje v rámci The Machine použít memristory jako základní součástku pro rychlou a efektivní univerzální paměť, což samo o sobě jistě způsobí velkou revoluci, jedna oblast je mnohem významnější.

Pomocí memristoru lze efektivně na úrovni hardwaru simulovat synapse. To znamená stavbu efektivních a výkonných neuronových sítí, které budou pracovat analogově už v rámci samotného hardwaru a nikoli neefektivně přes software, který se s vysokou spotřebou energie musí přepočítávat přes několik vrstev na digitální formu jedniček a nul, se kterými pracují současné výpočetní čipy a paměti.

Skupina vědců (Mirko Prezioso, Farnood Merrikh-Bayat, Brian Hoskins, Gina Adam, Konstantin K. Likharev, Dmitri B. Strukov) vytvořila testovací hybridní konstrukci neuromorfní sítě (CrossNet) i se simulovanými spoji mezi memristory (axony, dendrity) s velmi vysokou hustotou.

Klepněte pro větší obrázek
Vytvořený obvod pro výzkum meristorových spojení

Teoreticky je možné škálovat počet spojení na vysoké hodnoty, kterými se pyšní třeba i náš mozek. A dokonce ještě efektivněji z pohledu objemu hmoty. S pětivrstvou konstrukcí s 30nm roztečí spojení obsahující dva memristory na jednu synapsi, to bude znamenat 10 000 synapsí na jeden neuron a hustotu 25 milionů neuronů na čtvereční centimetr. Výsledná spotřeba by přitom byla pouze kolem jednoho wattu.

Klepněte pro větší obrázekKlepněte pro větší obrázek
Detail 12×12 konstrukce memristorových spojení

Z pohledu efektivity (spotřeby energie a výkonu) by měla být taková konstrukce srovnatelná s lidským mozkem, ale navíc by spojení a předávání signálů mělo být mnohem rychlejší  - zpoždění signálů se očekává kolem 0,02 ms, zatímco biologické mozky mají kolem 10 ms. Až se nám roboti budou smát, že nám to myslí pomalu, víme odkud vítr vane.

Zatím 60 memristorů pro rozpoznání tří písmen

Vědcům se podařilo vytvořit základní konstrukci sítě, která zahrnovala 12 × 12 memristorových spojení. I pomocí tohoto jednoduchého spojení se podařilo vytvořit umělou neuronovou síť s deseti vstupy a třemi výstupy, což znamenalo využití 60 memristorů (každý dvě synapse).

Klepněte pro větší obrázekKlepněte pro větší obrázek
Rozpoznávací obrazce tří písmen v rámci deviti pixelů i ve verzi s chybami

Pomocí takto jednoduché sítě bylo možné efektivně naučit a rozpoznávat písmena Z, V a N v rámci devíti pixelů rozmístěných v kombinaci 3x3 pixelů. Žádné tranzistory a přímo pomocí hardwaru byla schopná tato neuronová síť se s jedním průchodem efektivně naučit a analogově rozpoznávat.

Klepněte pro větší obrázek
Zapojení umělé neuronové sítě pro teno výzkum

A to i s případnou chybou pixelu v devítipixelovém obraze. S větším počtem opakování učení velmi rychle klesalo množství chyb a perfektních výsledků dosáhla v průměru kolem 23 opakování. TO vše s nízkou spotřebou a i když některé části výpočtů byly provedené na externím zařízení, hlavní výpočetní část zastala memristorová umělá neuronová síť.

Klepněte pro větší obrázek
Množství chybných rozpoznání dle počtu opakování

Podrobné informace naleznete v oficiálním materiálu.

Témata článku: Technologie, Umělá inteligence, Neuronová síť, Synapse, Neuron, Axon, Gina, Nature

40 komentářů

Nejnovější komentáře

  • Jan Němec 11. 5. 2015 10:34:17
    Popis nové technologie, která má na hardwarové úrovní zefektivnit...
  • borekz 10. 5. 2015 16:06:41
    Zpoždění 20 mikrosekund. To jsou fofry jak na počítači ze 60-let. :-D
  • Antonín Tráva 9. 5. 2015 19:07:12
    To je sice moc pěkný, ale k umělý inteligenci to má pořád ještě *hodně*...
reklama
Určitě si přečtěte

Facebook o nás ví vše. Díky dobře skrytému vyhledávači se to dozví i ostatní

Facebook o nás ví vše. Díky dobře skrytému vyhledávači se to dozví i ostatní

** Facebook o nás ví vše, protože mu to sami řekneme ** V jeho nitru se skrývá mocný vyhledávač ** Mohou jej zneužít stalkeři, sociální inženýři a další nezbedníci

16.  2.  2017 | Jakub Čížek | 76

Pojďme programovat elektroniku: Žádný bastlíř se neobejde bez armády švábů

Pojďme programovat elektroniku: Žádný bastlíř se neobejde bez armády švábů

** Každý bastlíř se po čase neobjede bez armády švábů ** Dnes si některé z nich vyzkoušíme ** Třeba zázračný posuvný registr

19.  2.  2017 | Jakub Čížek | 36

K čemu jsou v zimě dobré chytré hodinky? Z lyžování vám udělají datové orgie

K čemu jsou v zimě dobré chytré hodinky? Z lyžování vám udělají datové orgie

** Chytré hodinky našly uplatnění především ve sportu ** Běhání či jízdu na kole zvládnou všechny, ale co třeba lyžování? ** Podívejte se, jak jsou na zimní sporty připraveny hodinky Garmin Fenix 3

15.  2.  2017 | David Polesný | 22


Aktuální číslo časopisu Computer

Stavba 3D tiskárny

Výbava domácí elektrodílničky

Budoucnost 5G sítí

Velké testy microSD karet a vodních chladičů

Přehled mobilních tarifů

reklama
reklama