Fathom: úsporný neuronový akcelerátor do USB

  • Nový mobilní „neuronový čip“ od společnosti Movidius stačí pro vývoj zapojit do USB
  • Úspornou akceleraci zpracování obrazu využívá Google i výrobce dronů DJI
  • Platforma je snadno přístupná vývojářům pro nasazení v mobilních zařízeních

Strojové učení hraje stále důležitější roli a obzvláště populární segment hlubokých neuronových sítí. V tomto duchu se nesla i nedávná konference společnosti Nvidia, která nabízí nejvýkonnější grafické výpočetní karty optimalizované právě pro použití s učením hlubokých neuronových sítích.

V těchto případech jde ale především o pokročilé formy, kdy je potřeba opravdu hodně výkonu a tím pádem i velká spotřeba energie. Často se tak jedná o řešení, která jsou postavená na bázi cloudu, kde vše probíhá na vzdálených serverech. Jsou ale věci, které nelze zpracovávat zpožděně nebo přes internet.

Důvodem může být nedostupnost nebo nestabilita internetu samotného, velkou roli hraje i odezva a propustnost. U mobilních zařízení jsou důležité i rozměry a spotřeba, protože baterie je většinou velmi omezená a vše je nutné zpracovávat co nejefektivněji.

Specializované neuronové akcelerátory

Efektivita zpracování hlubokých neuronových sítí pomocí klasického procesoru je velmi špatná a i když je to s moderními grafickými výpočetními čipy výrazně lepší, specializované čipy mohou vždy nabídnout ještě o kus lepší poměr výkonu a spotřeby.

Na tyto neuronové akcelerátory se specializuje i společnost Movidius, která vyvíjí hlavně úsporné čipy pro zpracování obrazu (VPU). Zajímavostí je, že čipy Myriad ve verzi v1 používal i Google v rámci projektu Tango a nejnovější v2 pak integruje výrobce DJI do dronů Phantom 4. Díky tomu dokáže dron například provádět různé automatizované akce závislé na rychlé a úsporném zpracování obrazu.

Fathom: framework a Myriad v2 jako „flash disk“

Právě na druhé generaci čipu Myriad MA2450 je založený nový „akcelerátor“ s označením Fathom, který má tvar klasického flash disku. Připojuje se pomocí běžného USB portu, což je jistě skvělé pro rozšíření a snadné testování při vývoji.

Klepněte pro větší obrázek
Fathom není flash disk, ale kompletní úsporný akcelerátor neuronových sítí do USB portu

Fathom vůbec nemůže konkurovat výkonným grafikám jako je Nvidia Tesla a podobně, ale o to mu ani nejde. Chlubí se totiž spotřebou pod hranicí jednoho wattu. Podle specifikací Myriad 2 VPU z roku 2014 zvládne 28nm verze čipu až dva biliony 16bitových operací za sekundu se spotřebou 500 mW s interní paměťovou propustností až 400 GB/s. Frekvence je 300 až 600 MHz a kapacita operační paměti LPDDR3 u Fathomu je 512 MB. V prezentaci se ale uvádí obecný výkon 150 GFLOPS se spotřebou 1 W, což je stále několikanásobně efektivnější poměr, než třeba u čipů Tegra od Nvidie.

Klepněte pro větší obrázekKlepněte pro větší obrázekKlepněte pro větší obrázekPodrobné specifikace Myriadu v2

Protože je zařízení určené hlavně pro vývojáře, Movidius představil i framework Fathom, pomocí kterého lze optimalizovat kód (TensorFlow, Caffe) pro čip Myriad V2 a využít tak výkon ve spojení s nízkou spotřebou co nejlépe.

Miniaturizace a nízká cena

Samotný čip se vzhledem k výkonu pyšní opravdu miniaturními rozměry – 5 × 5 × 0,35 mm a hmotností pod jeden gram. Koncová cena by měla být pod hranicí deseti dolarů, konkrétní hodnoty ale Movidius neuvádí.

Klepněte pro větší obrázek

V případě celého akcelerátoru je ale cena mnohem vyšší a nelze se tomu divit - jde o vývojářskou platformu, která má spoustu věcí navíc, jež nakonec nemusí a často nebudou součástí finální produktu. Zatím se odhaduje cena za jeden kus pod úrovní sto dolarů.

Nezbytnost i pro rozšířenou realitu

I když se to s Google Glass zatím zcela nepovedlo, Google podle spekulací vyvíjí další formu pro rozšířenou realitu. Pro mobilní zařízení, které musí rozpoznávat realitu kolem nás co možná nejrychleji, nejpřesněji a hlavně nejúsporněji, budou takové specializované čipy naprosto kritické.

Specializovaný čip pro analýzu okolní reality musí kvůli spotřebě a rychlosti používat i Microsoft v Hololens a tento čip označuje vlastní zkratkou „HPU“ (Holographic Processing Unit). Takové čipy ale budou muset mít i různí roboti, takže lze očekávat, že se v této oblasti dočkáme velkých novinek a rychlého pokroku, obzvláště ve spojení se strojovým učením a akcelerací hlubokých neuronových sítí.

Diskuze (3) Další článek: Zprávy Živě: Microsoft a Google oznámily konec sporů v soudních síních

Témata článku: Technologie, Umělá inteligence, Roboti, Strojové učení, Neuronová síť, Mobility, USB, TensorFlow, Specializovaný čip, Phantom, Drony, Phantom 2, Interní paměť, Vzdálený server, Pokročilý dron, Movidius, Klasický dron, Drony v akci, DJI Phantom, Tango, HPU, Nezbytnost, Úsporný akcelerátor, Velká spotřeba, Tang, Drony na Mall.cz


Určitě si přečtěte

Biblická potopa Česka: Jak bychom dopadli, kdyby nás zatopil oceán

Biblická potopa Česka: Jak bychom dopadli, kdyby nás zatopil oceán

** Představte si biblickou potopu ** Nejprve zaniknou Děčín a Břeclav, pak i Brno a Praha ** Hlavním městem se stane Jihlava a zbytky Čechů přežijí na Kvildě

Jakub Čížek | 91

Zorin OS 15: Vyzkoušejte další hezký a nenáročný linux pro mamku a taťku

Zorin OS 15: Vyzkoušejte další hezký a nenáročný linux pro mamku a taťku

** Ačkoliv je grafických linuxů plný internet, stále vládnou Windows ** Jeden z nich se jmenuje Zorin OS a nedávno se dočkal aktualizace ** Dělají jej dva kluci z Irska a je fakt hezký

Jakub Čížek | 114

HTTPS byl pouze první krok. Chrome zavádí DoH, tedy šifrované DNS. Dopady mohou být obrovské

HTTPS byl pouze první krok. Chrome zavádí DoH, tedy šifrované DNS. Dopady mohou být obrovské

** Šifrovaný web je dnes už samozřejmost ** Jeden díl skládačky ale ještě chybí – DNS ** Firefox už začal a teď se na šifrované DNS chystá i Chrome

Jakub Čížek | 92

Zranitelnost platebních karet Visa umožňuje zločincům obejít limit při bezkontaktních platbách

Zranitelnost platebních karet Visa umožňuje zločincům obejít limit při bezkontaktních platbách

** Odborníci přišli na to, jak obejít limit bezkontaktních plateb ** Stačí zařízení, ovlivňující komunikaci mezi kartou a terminálem ** Stahují se nad bezkontaktními platbami mračna?

Karel Kilián | 79

Jak funguje kontroverzní program, který ženám krade plavky. Mají se čeho bát?

Jak funguje kontroverzní program, který ženám krade plavky. Mají se čeho bát?

** Strojové učení ještě nepřitáhlo takový zájem jako na začátku prázdnin ** Ne, umělá inteligence nenašla lék na rakovinu ** Naučila se svlékat ženy nejen z plavek

Jakub Čížek | 34

Starý smartphone nemusí skončit v koši. 10 způsobů, jak ho ještě můžete využít

Starý smartphone nemusí skončit v koši. 10 způsobů, jak ho ještě můžete využít

** Co dělat s vysloužilým chytrým telefonem? Neházejte ho do koše! ** Našli jsme pro vás deset možností, jak ho prakticky využít ** I stará zařízení tak mohou být užitečná

Karel Kilián | 47



Aktuální číslo časopisu Computer

Speciál o přechodu na DVB-T2

Velký test herních myší

Super fotky i z levného mobilu

Jak snadno upravit PDF