Fathom: úsporný neuronový akcelerátor do USB

  • Nový mobilní „neuronový čip“ od společnosti Movidius stačí pro vývoj zapojit do USB
  • Úspornou akceleraci zpracování obrazu využívá Google i výrobce dronů DJI
  • Platforma je snadno přístupná vývojářům pro nasazení v mobilních zařízeních

Strojové učení hraje stále důležitější roli a obzvláště populární segment hlubokých neuronových sítí. V tomto duchu se nesla i nedávná konference společnosti Nvidia, která nabízí nejvýkonnější grafické výpočetní karty optimalizované právě pro použití s učením hlubokých neuronových sítích.

V těchto případech jde ale především o pokročilé formy, kdy je potřeba opravdu hodně výkonu a tím pádem i velká spotřeba energie. Často se tak jedná o řešení, která jsou postavená na bázi cloudu, kde vše probíhá na vzdálených serverech. Jsou ale věci, které nelze zpracovávat zpožděně nebo přes internet.

Důvodem může být nedostupnost nebo nestabilita internetu samotného, velkou roli hraje i odezva a propustnost. U mobilních zařízení jsou důležité i rozměry a spotřeba, protože baterie je většinou velmi omezená a vše je nutné zpracovávat co nejefektivněji.

Specializované neuronové akcelerátory

Efektivita zpracování hlubokých neuronových sítí pomocí klasického procesoru je velmi špatná a i když je to s moderními grafickými výpočetními čipy výrazně lepší, specializované čipy mohou vždy nabídnout ještě o kus lepší poměr výkonu a spotřeby.

Na tyto neuronové akcelerátory se specializuje i společnost Movidius, která vyvíjí hlavně úsporné čipy pro zpracování obrazu (VPU). Zajímavostí je, že čipy Myriad ve verzi v1 používal i Google v rámci projektu Tango a nejnovější v2 pak integruje výrobce DJI do dronů Phantom 4. Díky tomu dokáže dron například provádět různé automatizované akce závislé na rychlé a úsporném zpracování obrazu.

Fathom: framework a Myriad v2 jako „flash disk“

Právě na druhé generaci čipu Myriad MA2450 je založený nový „akcelerátor“ s označením Fathom, který má tvar klasického flash disku. Připojuje se pomocí běžného USB portu, což je jistě skvělé pro rozšíření a snadné testování při vývoji.

Klepněte pro větší obrázek
Fathom není flash disk, ale kompletní úsporný akcelerátor neuronových sítí do USB portu

Fathom vůbec nemůže konkurovat výkonným grafikám jako je Nvidia Tesla a podobně, ale o to mu ani nejde. Chlubí se totiž spotřebou pod hranicí jednoho wattu. Podle specifikací Myriad 2 VPU z roku 2014 zvládne 28nm verze čipu až dva biliony 16bitových operací za sekundu se spotřebou 500 mW s interní paměťovou propustností až 400 GB/s. Frekvence je 300 až 600 MHz a kapacita operační paměti LPDDR3 u Fathomu je 512 MB. V prezentaci se ale uvádí obecný výkon 150 GFLOPS se spotřebou 1 W, což je stále několikanásobně efektivnější poměr, než třeba u čipů Tegra od Nvidie.

Klepněte pro větší obrázekKlepněte pro větší obrázekKlepněte pro větší obrázekPodrobné specifikace Myriadu v2

Protože je zařízení určené hlavně pro vývojáře, Movidius představil i framework Fathom, pomocí kterého lze optimalizovat kód (TensorFlow, Caffe) pro čip Myriad V2 a využít tak výkon ve spojení s nízkou spotřebou co nejlépe.

Miniaturizace a nízká cena

Samotný čip se vzhledem k výkonu pyšní opravdu miniaturními rozměry – 5 × 5 × 0,35 mm a hmotností pod jeden gram. Koncová cena by měla být pod hranicí deseti dolarů, konkrétní hodnoty ale Movidius neuvádí.

Klepněte pro větší obrázek

V případě celého akcelerátoru je ale cena mnohem vyšší a nelze se tomu divit - jde o vývojářskou platformu, která má spoustu věcí navíc, jež nakonec nemusí a často nebudou součástí finální produktu. Zatím se odhaduje cena za jeden kus pod úrovní sto dolarů.

Nezbytnost i pro rozšířenou realitu

I když se to s Google Glass zatím zcela nepovedlo, Google podle spekulací vyvíjí další formu pro rozšířenou realitu. Pro mobilní zařízení, které musí rozpoznávat realitu kolem nás co možná nejrychleji, nejpřesněji a hlavně nejúsporněji, budou takové specializované čipy naprosto kritické.

Specializovaný čip pro analýzu okolní reality musí kvůli spotřebě a rychlosti používat i Microsoft v Hololens a tento čip označuje vlastní zkratkou „HPU“ (Holographic Processing Unit). Takové čipy ale budou muset mít i různí roboti, takže lze očekávat, že se v této oblasti dočkáme velkých novinek a rychlého pokroku, obzvláště ve spojení se strojovým učením a akcelerací hlubokých neuronových sítí.

12 komentářů

Nejnovější komentáře

  • dpcstb 30. 4. 2016 23:49:06
    takto nejak prevezme skynet kontrolu nad vsetkym HW sveta :-D
  • El Vigo 30. 4. 2016 20:47:20
    k ničemu, uprchlíkům to nepomůže
  • Martin Sršeň 30. 4. 2016 17:06:08
    FPGA by na to nestačilo?

Určitě si přečtěte


Nejlepší programy pro střih videa na doma: 10 video editorů, ze kterých si vyberete

Nejlepší programy pro střih videa na doma: 10 video editorů, ze kterých si vyberete

** Adobe Premiere Pro ani Final Cut se pro běžné uživatele příliš nehodí ** Programy na domácí střih většinou stojí do dvou tisíc ** V desítce nejzajímavějších najdete i 3 videoeditory dostupné zdarma

19.  9.  2016 | Stanislav Janů | 37

Deset tipů, jak ovládnout Google: Vyhledávejte jako mistři

Deset tipů, jak ovládnout Google: Vyhledávejte jako mistři

** Vyhledávače jsou natolik dobré, že si poradí i s frází v běžné češtině ** Pokud to ale nebude stačit, můžete vyzkoušet pokročilé funkce ** Vybrali jsme ty nejzajímavější

Dnes | Jakub Čížek | 11

Pojďme programovat elektroniku: Vyzkoušíme IR, ovládneme světýlko přes Bluetooth a vyšleme zprávu na sto metrů

Pojďme programovat elektroniku: Vyzkoušíme IR, ovládneme světýlko přes Bluetooth a vyšleme zprávu na sto metrů

** Budeme odposlouchávat IR ovladač klimatizace ** Vyrobíme laciný rádiový vysílač ** Vyzkoušíme komunikaci pomocí Bluetooth a v pásmu 433 MHz

21.  9.  2016 | Jakub Čížek | 18

Vymazat se z internetu není možné, velkou část osobního obsahu však odstranit můžete

Vymazat se z internetu není možné, velkou část osobního obsahu však odstranit můžete

** Online stopy i se svým jménem zanechá většina uživatelů internetu ** Jejich smazání nikdy nebude stoprocentní ** Poradíme, jak odstranit jejich větší část

20.  9.  2016 | Stanislav Janů | 21

Zoner Photo Studio X: Umí vrstvy, vyrobí fotoknihu a získáte jej za roční paušál

Zoner Photo Studio X: Umí vrstvy, vyrobí fotoknihu a získáte jej za roční paušál

** Je to největší aktualizace za poslední roky ** Konečně umí vrstvy, vyrobí fotoknihu i obraz ** Nově pouze jako předplatné s průběžnými upgrady

19.  9.  2016 | Jakub Čížek | 67


Aktuální číslo časopisu Computer

Srovnání výhodných 27" monitorů

Velký test levných rychlých routerů

Jak nastavit Android, aby vás nesledoval

45 podrobných testů a recenzí