AMD | Grafické karty | Strojové učení

Čipy AMD budou podporovat nový formát BFloat16 pro akceleraci neuronových sítí

Umělá inteligence v podobě strojového učení, hlubokých neuronových sítí a další forem hýbe technologickým světem, má ale nevýhodu - učení neuronových sítí na klasickém hardwaru není příliš efektivní a je pomalé. Google tak vyvinul speciální formát dat BFloat16, který reprezentuje ideální poměr mezi přesností a použitelností právě v oblasti učení neuronových sítí.

A právě pro tento formát budou optimalizované budoucí grafické čipy od AMD. Prozradila to zmínka v open source projektu na Githubu pro software AMD ROCm. Jedná se pochopitelně o hardwarovou podporu přímo v architektuře, která přináší obrovské zvýšení výkonu.

Sám Google pro tento formát už dlouho vyvíjí vlastní TPU čipy, které běží v datacentrech a stejně tak i menší modely pro koncové uživatele. S podporou formátu BFloat16, který je plně kompatibilní s oblíbeným TensorFlow, počítá také Intel v budoucích procesorech Xeon (Cooper Lake-S) a rovněž ve specializovaných akcelerátorech Nervana Neural Processor (NNP-T1000) a programovatelných FPGA Agilex.

Podporu přímo v architektuře již ohlásil i ARM, dočkáme se ale až s příchodem nové generace ARMv8. Zajímavostí je, že podporu zatím stále neohlásila Nvidia, pro kterou je to totiž částečná konkurence jejího řešení tensor jader. Jak to nakonec dopadne, je otázkou, protože případnou podporu lze i částečně emulovat, například pomocí instrukční sady AVX512 to je možné již dnes.

Diskuze (5) Další článek: Telefonní hovory s umělou inteligencí si užijí i mimo USA. Google Duplex se opatrně rozšiřuje za hranice

Témata článku: , , , , , , , , , , , , , , , , , , , , , , ,