Počet simulovaných neuronů v čipech napodobujících architekturu lidského mozku rychle roste. IBM se pochlubilo druhou verzí čipu SyNAPSE s jedním milionem programovatelných neuronů.
Klasické grafické a procesorové čipy jsou neefektivní. Jejich pevné daná konstrukce s jednoduchými tranzistory je omezující a zároveň znamená, že na spoustu náročných úloh potřebují příliš mnoho elektrické energie, protože vše musí projít několika vrstvami abstrakce. Na druhou stranu za to poskytují komplexní podporu softwaru všeho druhu.
Doba, kdy se programy a funkce musely přizpůsobovat čipu, se ale možná brzy změní. Pomalu a jistě totiž přichází čipy napodobující architekturu mozku, které se přizpůsobí danému úkolu. Nejde přitom o klasické matematické výpočty, ve kterých jsou už ty současné čipy velmi dobré. Ale především o náročné úlohy typu rozpoznávání řeči, obrazu a další typy využívající sílu umělých neuronových sítí. Právě díky lidské neuronové sítí je člověk stále ještě ve stále zmenšujícím se předstihu před počítači.
IBM ale nyní opět upozorňuje na vlastní výzkumný čip SyNAPSE, který obsahuje už milion simulovaných programovatelných neuronů a má spotřebu pouze 70 mW.
IBM SyNAPSE: tisíckrát vyšší výkon za tři roky
Základními stavebními kameny lidského mozku jsou programovatelné synapse a neurony. O vytvoření křemíkového čipu s podobnou architekturou se snaží mnoho týmů po celém světě, mezi největší projekty tohoto druhu patří například Human Brain Project, který nedávno získal podporu v podobě 30 miliard korun. Na tomto projektu spolupracuje přes 135 institucí z Evropy.
Neuronový čip SyNapse (TrueNorth) simulující milion neuronů se spotřebou 70 mW
IBM ale vede ve spolupráci s vědci Cornellovy univerzity vlastní výzkum čipu SyNAPSE, se kterým postupuje opravdu velmi rychle. Zatímco v roce 2011 měl čip jedno neurosynaptické jádro obsahující 256 programovatelných neuronů a 262 144 programovatelných synapsí, tento rok už má čip 4 096 neurosynaptických jader s milionem neuronů a 256 miliony synapsí.
Architektura čipu
Nová (druhá) generace čipu nese označení TrueNorth a má celkem 5,4 miliard tranzistorů. Ano, stále nejde o plně hardwarovou umělou neuronovou síť, se kterou se v použitelné podobě setkáme nejspíše až s rozmachem memristorů. Každé z 4 096 jader má k dispozici daný počet neuronů a synapsí, stejně tak paměť s kapacitou 100 tisíc bitů. Paměťový efekt je jedním z klíčových prvků.
Architektura neurosynaptických jader
Je totiž potřeba sledovat odkud signál přišel (jeden neuron má skrze synapse vstupy z 256 jiných neuronů), jakou měl intenzitu a podle toho nastavit synapse a konfiguraci poslání signálu k dalšim až 256 neuronům a jejich synapsím.
Zajímavostí je, že celý 28nm čip vyráběný v továrnách Samsungu pracuje na frekvenci pouze 1 KHz.
Vysoká efektivita při rozpoznávání vzorů
IBM „TrueNorth“ není ještě tím pravým neuronovým čipem z pohledu hardwaru, stále totiž používá zastaralé tranzistory fungující na bází jedniček a nul. Už v této úrovní hardwarové abstrakce a s použitím specializovaného softwaru ale ukazuje, jak velký rozdíl v řešení náročných úloh s rozpoznáváním vzorů, takové čipy poskytují.
Základní deska IBM Synapse
Jakmile jedno z 4 096 jader není využito, je okamžitě v „uspaném“ stavu a spotřebovává jen minimální množství elektrické energie. Dle IBM jsou rozdíly v efektivitě z pohledu výkonu a spotřeba obrovské. Při běhu umělých neuronových sítí je čip TrueNorth až 176 000× úspornější, než klasické čipy, které známe z desktopových či mobilních počítačů. I při srovnání se specializovanými čipy určenými pro běh neuronových sítí je stále více než 700× úspornější.
V reálné úloze při rozpoznávání objektů ve videostreamu s rozlišením 400 × 240 s 30 snímky za sekundu (auta, lidé a podobně) byla celková spotřeba čipu pouze 63 mW. Centimetr čtvereční čipu má tak spotřebu méně než 20 mW.
Tak rychlý růst překonávající i Moorův zákon částečně ukazuje, jak rychle by mohla umělá neuronová síť dosáhnout podobných hodnot, jako má lidský mozek. Pokud by se podařilo udržet takové tempo, 100 miliard neuronů jako má jeden lidský mozek by bylo dosaženo už do roku 2020. Lze ale očekávat, že tak velký skok je především teď na počátku, takže je realističtější předpověď do roku 2025 nebo 2030.
Co je ale na tom to nejdůležitější - jde o hodnoty pro jeden křemíkový čip, nikoli o celý superpočítač, u kterého se počítá dosažení výkonu lidského mozku právě do roku 2020 pomocí spousty čipů zapojených do společného výpočtu.
Zapomeňte na FLOPS, přichází SOPS
Zatímco obecný výpočetní výkon v superpočítačích měříme v rámci FLOPS (Floating Operation per Second), inženýři IBM jsou přesvědčení, že v případě neuronových čipů je nutné použít jinou metrikou, kterou nazývá SOPS – Synaptic Operations per Second. Efektivita čipu TrueNorth je 46 miliard SOPS na jeden W.
TIP: Výpočetní výkon: od mozku až k superpočítačům
Jde tak o výkon samotné neuronové sítě, čímž vyvstává i otázka, jestli nebude možné podobnou metriku použít i pro lidský mozek. Z jistého pohledu schopnosti a výkon mozku měří IQ testy, u kterých je nutné přijít na správné řešení vyzkoušením velkého počtu kombinací a vyloučení nesprávných. Do řešení se tak zapojuje nejen strukturu neuronové sítě, ale také rychlost zpracování informací.
