Fathom: úsporný neuronový akcelerátor do USB

  • Nový mobilní „neuronový čip“ od společnosti Movidius stačí pro vývoj zapojit do USB
  • Úspornou akceleraci zpracování obrazu využívá Google i výrobce dronů DJI
  • Platforma je snadno přístupná vývojářům pro nasazení v mobilních zařízeních

Strojové učení hraje stále důležitější roli a obzvláště populární segment hlubokých neuronových sítí. V tomto duchu se nesla i nedávná konference společnosti Nvidia, která nabízí nejvýkonnější grafické výpočetní karty optimalizované právě pro použití s učením hlubokých neuronových sítích.

V těchto případech jde ale především o pokročilé formy, kdy je potřeba opravdu hodně výkonu a tím pádem i velká spotřeba energie. Často se tak jedná o řešení, která jsou postavená na bázi cloudu, kde vše probíhá na vzdálených serverech. Jsou ale věci, které nelze zpracovávat zpožděně nebo přes internet.

Důvodem může být nedostupnost nebo nestabilita internetu samotného, velkou roli hraje i odezva a propustnost. U mobilních zařízení jsou důležité i rozměry a spotřeba, protože baterie je většinou velmi omezená a vše je nutné zpracovávat co nejefektivněji.

Specializované neuronové akcelerátory

Efektivita zpracování hlubokých neuronových sítí pomocí klasického procesoru je velmi špatná a i když je to s moderními grafickými výpočetními čipy výrazně lepší, specializované čipy mohou vždy nabídnout ještě o kus lepší poměr výkonu a spotřeby.

Na tyto neuronové akcelerátory se specializuje i společnost Movidius, která vyvíjí hlavně úsporné čipy pro zpracování obrazu (VPU). Zajímavostí je, že čipy Myriad ve verzi v1 používal i Google v rámci projektu Tango a nejnovější v2 pak integruje výrobce DJI do dronů Phantom 4. Díky tomu dokáže dron například provádět různé automatizované akce závislé na rychlé a úsporném zpracování obrazu.

Fathom: framework a Myriad v2 jako „flash disk“

Právě na druhé generaci čipu Myriad MA2450 je založený nový „akcelerátor“ s označením Fathom, který má tvar klasického flash disku. Připojuje se pomocí běžného USB portu, což je jistě skvělé pro rozšíření a snadné testování při vývoji.

Klepněte pro větší obrázek
Fathom není flash disk, ale kompletní úsporný akcelerátor neuronových sítí do USB portu

Fathom vůbec nemůže konkurovat výkonným grafikám jako je Nvidia Tesla a podobně, ale o to mu ani nejde. Chlubí se totiž spotřebou pod hranicí jednoho wattu. Podle specifikací Myriad 2 VPU z roku 2014 zvládne 28nm verze čipu až dva biliony 16bitových operací za sekundu se spotřebou 500 mW s interní paměťovou propustností až 400 GB/s. Frekvence je 300 až 600 MHz a kapacita operační paměti LPDDR3 u Fathomu je 512 MB. V prezentaci se ale uvádí obecný výkon 150 GFLOPS se spotřebou 1 W, což je stále několikanásobně efektivnější poměr, než třeba u čipů Tegra od Nvidie.

Klepněte pro větší obrázekKlepněte pro větší obrázekKlepněte pro větší obrázekPodrobné specifikace Myriadu v2

Protože je zařízení určené hlavně pro vývojáře, Movidius představil i framework Fathom, pomocí kterého lze optimalizovat kód (TensorFlow, Caffe) pro čip Myriad V2 a využít tak výkon ve spojení s nízkou spotřebou co nejlépe.

Miniaturizace a nízká cena

Samotný čip se vzhledem k výkonu pyšní opravdu miniaturními rozměry – 5 × 5 × 0,35 mm a hmotností pod jeden gram. Koncová cena by měla být pod hranicí deseti dolarů, konkrétní hodnoty ale Movidius neuvádí.

Klepněte pro větší obrázek

V případě celého akcelerátoru je ale cena mnohem vyšší a nelze se tomu divit - jde o vývojářskou platformu, která má spoustu věcí navíc, jež nakonec nemusí a často nebudou součástí finální produktu. Zatím se odhaduje cena za jeden kus pod úrovní sto dolarů.

Nezbytnost i pro rozšířenou realitu

I když se to s Google Glass zatím zcela nepovedlo, Google podle spekulací vyvíjí další formu pro rozšířenou realitu. Pro mobilní zařízení, které musí rozpoznávat realitu kolem nás co možná nejrychleji, nejpřesněji a hlavně nejúsporněji, budou takové specializované čipy naprosto kritické.

Specializovaný čip pro analýzu okolní reality musí kvůli spotřebě a rychlosti používat i Microsoft v Hololens a tento čip označuje vlastní zkratkou „HPU“ (Holographic Processing Unit). Takové čipy ale budou muset mít i různí roboti, takže lze očekávat, že se v této oblasti dočkáme velkých novinek a rychlého pokroku, obzvláště ve spojení se strojovým učením a akcelerací hlubokých neuronových sítí.

Témata článku: Technologie, Mobility, Umělá inteligence, Roboti, Strojové učení, USB, Neuronová síť, TensorFlow, Dron, Phantom, Phantom 2, DJI Phantom, Tang, Tanga, Tango

12 komentářů

Nejnovější komentáře

  • dpcstb 30. 4. 2016 23:49:06
    takto nejak prevezme skynet kontrolu nad vsetkym HW sveta :-D
  • El Vigo 30. 4. 2016 20:47:20
    k ničemu, uprchlíkům to nepomůže
  • Martin Sršeň 30. 4. 2016 17:06:08
    FPGA by na to nestačilo?
Určitě si přečtěte

Operační systém běžným počítačům nedal Bill Gates, ale Gary Kildall

Operační systém běžným počítačům nedal Bill Gates, ale Gary Kildall

** Gary Kildall pochopil, že levné výpočetní čipy mohou posloužit jako univerzální počítače pro všechny ** Připravil pro ně proto první operační systém ** Později mu systém vyfoukl Microsoft a nazval ho MS DOS

23.  4.  2017 | Pavel Tronner | 51

Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

** Už je to tady, lidé přestávají chápat počítače ** Systémy neuronových sítí začínají pracovat tak, že ani jejich tvůrci přesně neví, co se uvnitř děje ** Do budoucna to může být závažný problém

24.  4.  2017 | Jakub Čížek | 111

Před 35 lety měl premiéru legendární počítač ZX Spectrum. Připomeňte si „Gumáka“

Před 35 lety měl premiéru legendární počítač ZX Spectrum. Připomeňte si „Gumáka“

** Slavný osmibitový počítač Sinclair ZX Spectrum byl uveden právě před 35 lety ** Připomeňte si tento průkopnický počítač v tematických článcích ** Podívejte se, jak funguje dnes

23.  4.  2017 | Pavel Tronner | 13

Správný počítač má alespoň dva monitory. Anebo je to jinak?

Správný počítač má alespoň dva monitory. Anebo je to jinak?

** David si nedokáže představit práci bez dvou a více monitorů ** Kubovi naopak stačí jeden a ve více displejích se ztrácí ** Jaký přístup je lepší?

23.  4.  2017 | Jakub Čížek | 59

Český Google Překladač začal používat umělou inteligenci. Konec „drahoušků zákazníků“

Český Google Překladač začal používat umělou inteligenci. Konec „drahoušků zákazníků“

** Google ve svém překladači roky používal statistickou technologii ** Nyní zavádí strojové učení a neuronové sítě ** Rozdíl by měl být zvláště na větších textech patrný už nyní

20.  4.  2017 | Jakub Čížek | 31

Brno otevřelo největší českou dílnu pro bastlíře. Kladívka, vrtačky, 3D tiskárny, laserové řezačky. Je tu vše

Brno otevřelo největší českou dílnu pro bastlíře. Kladívka, vrtačky, 3D tiskárny, laserové řezačky. Je tu vše

** Máte nápad, ale chybí vám stroje a pořádná dílna? ** Chcete postavit ptačí budku, nebo krabičku pro Arduino? ** Brno otevřelo svůj FabLab – laboratoř pro bastlíře

19.  4.  2017 | Jakub Čížek | 31


Aktuální číslo časopisu Computer

První test AMD Ryzen

Velké testy: 22 powerbank a 8 bezdrátových setů

Radíme s koupí Wi-Fi routeru

Co dokáží inteligentní domy?