Simulace výrazů našeho obličeje ve virtuální realitě

S příchodem brýlí pro virtuální realitu nastává otázka, jak snímat výrazy našeho obličeje tak, aby je bylo možné zobrazit i v simulovaném světě. Lze to vyřešit poměrně jednoduše.

Na konci tohoto roku (HTC/Valve Vive VR), respektive začátkem roku 2016 (Oculus Rift CV1) se dočkáme příchodu prvních systémů pro virtuální realitu. V základním balení budou nejen velké brýle, které zakryjí značnou část obličeje, ale také sluchátka a systém snímání polohy hlavy a celého těla v prostoru i přesně natočení a úhly.

V případě her, kde budete coby živý člověk figurovat jen vy, je to dostatečné. Co ale při „multiplayeru“? Přímo se nabízí nutnost převedení výrazů našeho obličeje do virtuální postavy. Jak to ale udělat, když je většina tváře zakrytá?

Inženýři z univerzity v Jižní Kalifornii ve spolupráci s inženýry přímo z Facebooku, kteří se podílí i na vývoji Oculus Rift, ale představili řešení, které by mohlo být použitelné.

Snímání obličeje ve dvou úrovních

Jak už jsme zmínili, velká část obličeje  při nasazených brýlí pro virtuální realitu je zakrytá, takže ji nelze snímat pomocí kamery. To ale neplatí o dolní polovině, kde máme vidět ústa, bradu i tváře. Horní část hlavy včetně čela je ale zakrytá.

Klepněte pro větší obrázek
Problém snímání obličeje - horní polovina je zakrytá

Tým ale vyvinul systém, který zahrnuje kombinaci snímání pnutí v rámci okraje brýlí, který přímo přiléhá na obličej a externí RGB kamery, jež se soustředí na rozpoznávání spodní viditelné části obličeje.

Klepněte pro větší obrázek
Stačí umístit senzory přímo do pásu, který se dotýká obličeje

Na samotném okraji se tak nachází osm malých a velmi tenkých ohebných pásků z elektronického materiálů, který zachycuje roztažnost a změnu tlaku. Současná verze zahrnuje pevné přichycenou externí kameru, která je zaměřená na spodní část obličeje pod stále stejným úhlem. Díky tomu je snímání a rozpoznávání této části velmi přesné a relativně jednoduché na zpracování.

Rozpoznávání se zatím musí naučit

Vzhledem k tomu, že každá tvář je jiná a horní část rozpoznávání probíhá pouze pomocí jednoduchých senzorů, je nutné systém nejdříve naučit pohyb a rozložení našeho obličeje při konkrétních výrazech.

Klepněte pro větší obrázek
Různé typy výrazů jsou nasnímané a převedené do virtuálního obličeje

Výzkum to jednoduše vyřešil odklopením celé přední části brýlí s displejem, přičemž na tváři zůstal jak okraj se senzory, tak i kamera, která tentokrát viděla celý obličej. Díky tomu bylo možné pro každý výraz vytvořit virtuální verzi, která byla uložena spolu s natrénovanými hodnotami ze všech senzorů.

Klepněte pro větší obrázekKlepněte pro větší obrázek
Ukázka trénování a snímání dat ze senzorů

Tak bylo možné vytvořit personalizovaný profil výrazů pro každou osobu zvlášť. Výhodou je, že tento systém je schopný rozpoznat i menší výrazy, jako například pohyb čela, mrknutí oka, mračení a podobně. Všechny tyto typy výrazů totiž znamenají i pohyb v okrajích brýlí či spodní části obličeje.

Trojrozměrný avatár obličeje a dalších částí těla

Současný systém vyžaduje krátkou kalibraci a má zatím i menší problémy, které nastávají při nedostatečném dotyku senzorů na obličeji či změny teploty. Nutnost kalibrace by ale mohla být odstraněna pomocí dostatečné databáze dat ze senzorů různých a předem natrénovaných obličejů. Nejsou to tedy neřešitelné problémy, jde i o lepší ergonomii a třeba jiné rozložení senzorů. Celý výzkum byl postaven na starší vývojářské verzi Oculus Rift DK2.

Klepněte pro větší obrázek
Snímat lze rozmanité výrazy, které lidský obličej zvládne

Neefektivní je jistě i použití kamery, která výrazně zvyšuje hmotnost a částečně komplikuje pohyb. Jedná se ale o prototyp, takže případné finální řešení v koncovém zařízením může používat běžnou kameru postavenou před vámi nebo miniaturní senzory na spodní straně brýlí. Sice by to znamenalo snímání spodní části obličeje pod velmi ostrým úhlem, ale pokud s tím bude systém počítat, pro detekci a zpřesnění výrazu to bude dostačovat.

Klepněte pro větší obrázek

Jak je vidět, ve virtuální realitě budeme moci mít i simulovanou reprezentaci obličeje v reálném čase, což je důležité pro mezilidskou komunikaci. Facebook koupil Oculus VR právě pro budoucnost své platformy, která je postavená na komunikaci lidí mezi sebou. Ve virtuálních světech je tak do budoucna nutné přenášet i tyto vlastnosti našeho těla.

TIP: Virtuální realita místo teleportace. Přivítejte Matrix

Obličej je ale samozřejmě pouze jedna část našeho těla a další jistě budou následovat. Již nyní jsou k dispozici různé prototypy rukavic, které snímají pohyb prstů a rukou v prostoru, pomocí kamer nebo využití dalších senzorů je možné si představit snadné sledování i dalších částí našeho těla jako jsou nohy a podobně.

Psali jsme o technologii Valve Lighthouse, která pomocí dvojice vysílačů je schopná snímat takřka libovolný počet malých a levných senzorů s vysokou přesností a extrémně nízkou odezvou. Lze si tak představit, že pro snímání celého těla nebudou potřeba žádné drahé kamerové systémy.

Vše zajistí větší počet senzorů rozmístěných po našem těle, které budou třeba ukryté v různých flexibilních páscích. Zpočátku propojené dráty, později určitě bezdrátově.

Oficiální publikaci k výzkumu naleznete na stránkách Hao-li.com

Video

Diskuze (5) Další článek: Zprávy Živě: Rusko chce vlastní mobilní systém

Témata článku: Technologie , Virtuální realita , Simulace , Teleportace , Světec , Valve , Virtuální , Současná verze , Virtuální realita brýle , Celý výzkum , Levný senzor , Lighthouse , Rozpoznávání , VR brýle pro virtuální realitu , Brýle pro virtuální realitu , SIGGRAPH , Facial , Miniaturní senzor , Virtuální realita HTC vive , Lidský obličej , Multiplayer , Obličej , Konečná verze , Postavená kamera , Teleport


Určitě si přečtěte

Tajuplná čínská raketa by mohla ohrozit vzdušnou sílu amerického letectva

Tajuplná čínská raketa by mohla ohrozit vzdušnou sílu amerického letectva

** Čínské letectvo vyvíjí záhadnou raketu typu vzduch-vzduch ** Mysteriózní zbraň nese označení PL-XX ** Jde o raketu vzduch-vzduch s velmi dalekým doletem

Stanislav Mihulka | 12

Nechali jsme dopadnout asteroid Ryugu na Prahu. Místo stověžatého města je pětikilometrový kráter

Nechali jsme dopadnout asteroid Ryugu na Prahu. Místo stověžatého města je pětikilometrový kráter

** Ryugu je blízkozemní planetka, která křižuje dráhu Země ** Její průměr je asi 900 metrů ** Co by se stalo, kdyby Ryugu dopadla na Zemi?

Petr Kubala | 6

Nový iPhone a další novinky Applu: sledujte, na co se zase budou stát fronty

Nový iPhone a další novinky Applu: sledujte, na co se zase budou stát fronty

** Apple dnes představuje nové produkty v čele s novými iPhony ** Nemusí zůstat jen u telefonů, čekají se i další novinky ** Úvodní přednáška začíná v 19:00 našeho času

David Polesný | 57

Photolemur 3: Prostě do něj přetáhnete fotky a začne se dít magie. Tedy údajně...

Photolemur 3: Prostě do něj přetáhnete fotky a začne se dít magie. Tedy údajně...

** Je lepší nabušený Photoshop, nebo program s jedním tlačítkem? ** Photolemur si myslí to druhé ** Tento fotoeditor neumí skoro nic, a přitom (skoro) všechno

Jakub Čížek | 20


Aktuální číslo časopisu Computer

Odhalte skryté funkce Windows 10

Test levných Androidů do 4 000 Kč

Srovnání úsporných minipočítačů

Změřili jsme rychlost 10Gb/s ethernetu