Fathom: úsporný neuronový akcelerátor do USB

  • Nový mobilní „neuronový čip“ od společnosti Movidius stačí pro vývoj zapojit do USB
  • Úspornou akceleraci zpracování obrazu využívá Google i výrobce dronů DJI
  • Platforma je snadno přístupná vývojářům pro nasazení v mobilních zařízeních

Strojové učení hraje stále důležitější roli a obzvláště populární segment hlubokých neuronových sítí. V tomto duchu se nesla i nedávná konference společnosti Nvidia, která nabízí nejvýkonnější grafické výpočetní karty optimalizované právě pro použití s učením hlubokých neuronových sítích.

V těchto případech jde ale především o pokročilé formy, kdy je potřeba opravdu hodně výkonu a tím pádem i velká spotřeba energie. Často se tak jedná o řešení, která jsou postavená na bázi cloudu, kde vše probíhá na vzdálených serverech. Jsou ale věci, které nelze zpracovávat zpožděně nebo přes internet.

Důvodem může být nedostupnost nebo nestabilita internetu samotného, velkou roli hraje i odezva a propustnost. U mobilních zařízení jsou důležité i rozměry a spotřeba, protože baterie je většinou velmi omezená a vše je nutné zpracovávat co nejefektivněji.

Specializované neuronové akcelerátory

Efektivita zpracování hlubokých neuronových sítí pomocí klasického procesoru je velmi špatná a i když je to s moderními grafickými výpočetními čipy výrazně lepší, specializované čipy mohou vždy nabídnout ještě o kus lepší poměr výkonu a spotřeby.

Na tyto neuronové akcelerátory se specializuje i společnost Movidius, která vyvíjí hlavně úsporné čipy pro zpracování obrazu (VPU). Zajímavostí je, že čipy Myriad ve verzi v1 používal i Google v rámci projektu Tango a nejnovější v2 pak integruje výrobce DJI do dronů Phantom 4. Díky tomu dokáže dron například provádět různé automatizované akce závislé na rychlé a úsporném zpracování obrazu.

Fathom: framework a Myriad v2 jako „flash disk“

Právě na druhé generaci čipu Myriad MA2450 je založený nový „akcelerátor“ s označením Fathom, který má tvar klasického flash disku. Připojuje se pomocí běžného USB portu, což je jistě skvělé pro rozšíření a snadné testování při vývoji.

1461855269-Screen-Shot-2016-04-27-at-3.13.16-PM_1425_830_s_c1.png
Fathom není flash disk, ale kompletní úsporný akcelerátor neuronových sítí do USB portu

Fathom vůbec nemůže konkurovat výkonným grafikám jako je Nvidia Tesla a podobně, ale o to mu ani nejde. Chlubí se totiž spotřebou pod hranicí jednoho wattu. Podle specifikací Myriad 2 VPU z roku 2014 zvládne 28nm verze čipu až dva biliony 16bitových operací za sekundu se spotřebou 500 mW s interní paměťovou propustností až 400 GB/s. Frekvence je 300 až 600 MHz a kapacita operační paměti LPDDR3 u Fathomu je 512 MB. V prezentaci se ale uvádí obecný výkon 150 GFLOPS se spotřebou 1 W, což je stále několikanásobně efektivnější poměr, než třeba u čipů Tegra od Nvidie.

 2016-04-30 v┬á14.46.36.png 2016-04-30 v┬á14.48.38.pngmovidius-chip-diagram-detailed.jpgPodrobné specifikace Myriadu v2

Protože je zařízení určené hlavně pro vývojáře, Movidius představil i framework Fathom, pomocí kterého lze optimalizovat kód (TensorFlow, Caffe) pro čip Myriad V2 a využít tak výkon ve spojení s nízkou spotřebou co nejlépe.

Miniaturizace a nízká cena

Samotný čip se vzhledem k výkonu pyšní opravdu miniaturními rozměry – 5 × 5 × 0,35 mm a hmotností pod jeden gram. Koncová cena by měla být pod hranicí deseti dolarů, konkrétní hodnoty ale Movidius neuvádí.

 2016-04-30 v 14.52.15.png

V případě celého akcelerátoru je ale cena mnohem vyšší a nelze se tomu divit - jde o vývojářskou platformu, která má spoustu věcí navíc, jež nakonec nemusí a často nebudou součástí finální produktu. Zatím se odhaduje cena za jeden kus pod úrovní sto dolarů.

Nezbytnost i pro rozšířenou realitu

I když se to s Google Glass zatím zcela nepovedlo, Google podle spekulací vyvíjí další formu pro rozšířenou realitu. Pro mobilní zařízení, které musí rozpoznávat realitu kolem nás co možná nejrychleji, nejpřesněji a hlavně nejúsporněji, budou takové specializované čipy naprosto kritické.

Specializovaný čip pro analýzu okolní reality musí kvůli spotřebě a rychlosti používat i Microsoft v Hololens a tento čip označuje vlastní zkratkou „HPU“ (Holographic Processing Unit). Takové čipy ale budou muset mít i různí roboti, takže lze očekávat, že se v této oblasti dočkáme velkých novinek a rychlého pokroku, obzvláště ve spojení se strojovým učením a akcelerací hlubokých neuronových sítí.

Diskuze (3) Další článek: Zprávy Živě: Microsoft a Google oznámily konec sporů v soudních síních

Témata článku: , , , , , , , , , , , , , , , , , , , , , , , , ,