Simulace výrazů našeho obličeje ve virtuální realitě

S příchodem brýlí pro virtuální realitu nastává otázka, jak snímat výrazy našeho obličeje tak, aby je bylo možné zobrazit i v simulovaném světě. Lze to vyřešit poměrně jednoduše.

Na konci tohoto roku (HTC/Valve Vive VR), respektive začátkem roku 2016 (Oculus Rift CV1) se dočkáme příchodu prvních systémů pro virtuální realitu. V základním balení budou nejen velké brýle, které zakryjí značnou část obličeje, ale také sluchátka a systém snímání polohy hlavy a celého těla v prostoru i přesně natočení a úhly.

V případě her, kde budete coby živý člověk figurovat jen vy, je to dostatečné. Co ale při „multiplayeru“? Přímo se nabízí nutnost převedení výrazů našeho obličeje do virtuální postavy. Jak to ale udělat, když je většina tváře zakrytá?

Inženýři z univerzity v Jižní Kalifornii ve spolupráci s inženýry přímo z Facebooku, kteří se podílí i na vývoji Oculus Rift, ale představili řešení, které by mohlo být použitelné.

Snímání obličeje ve dvou úrovních

Jak už jsme zmínili, velká část obličeje  při nasazených brýlí pro virtuální realitu je zakrytá, takže ji nelze snímat pomocí kamery. To ale neplatí o dolní polovině, kde máme vidět ústa, bradu i tváře. Horní část hlavy včetně čela je ale zakrytá.

Klepněte pro větší obrázek
Problém snímání obličeje - horní polovina je zakrytá

Tým ale vyvinul systém, který zahrnuje kombinaci snímání pnutí v rámci okraje brýlí, který přímo přiléhá na obličej a externí RGB kamery, jež se soustředí na rozpoznávání spodní viditelné části obličeje.

Klepněte pro větší obrázek
Stačí umístit senzory přímo do pásu, který se dotýká obličeje

Na samotném okraji se tak nachází osm malých a velmi tenkých ohebných pásků z elektronického materiálů, který zachycuje roztažnost a změnu tlaku. Současná verze zahrnuje pevné přichycenou externí kameru, která je zaměřená na spodní část obličeje pod stále stejným úhlem. Díky tomu je snímání a rozpoznávání této části velmi přesné a relativně jednoduché na zpracování.

Rozpoznávání se zatím musí naučit

Vzhledem k tomu, že každá tvář je jiná a horní část rozpoznávání probíhá pouze pomocí jednoduchých senzorů, je nutné systém nejdříve naučit pohyb a rozložení našeho obličeje při konkrétních výrazech.

Klepněte pro větší obrázek
Různé typy výrazů jsou nasnímané a převedené do virtuálního obličeje

Výzkum to jednoduše vyřešil odklopením celé přední části brýlí s displejem, přičemž na tváři zůstal jak okraj se senzory, tak i kamera, která tentokrát viděla celý obličej. Díky tomu bylo možné pro každý výraz vytvořit virtuální verzi, která byla uložena spolu s natrénovanými hodnotami ze všech senzorů.

Klepněte pro větší obrázekKlepněte pro větší obrázek
Ukázka trénování a snímání dat ze senzorů

Tak bylo možné vytvořit personalizovaný profil výrazů pro každou osobu zvlášť. Výhodou je, že tento systém je schopný rozpoznat i menší výrazy, jako například pohyb čela, mrknutí oka, mračení a podobně. Všechny tyto typy výrazů totiž znamenají i pohyb v okrajích brýlí či spodní části obličeje.

Trojrozměrný avatár obličeje a dalších částí těla

Současný systém vyžaduje krátkou kalibraci a má zatím i menší problémy, které nastávají při nedostatečném dotyku senzorů na obličeji či změny teploty. Nutnost kalibrace by ale mohla být odstraněna pomocí dostatečné databáze dat ze senzorů různých a předem natrénovaných obličejů. Nejsou to tedy neřešitelné problémy, jde i o lepší ergonomii a třeba jiné rozložení senzorů. Celý výzkum byl postaven na starší vývojářské verzi Oculus Rift DK2.

Klepněte pro větší obrázek
Snímat lze rozmanité výrazy, které lidský obličej zvládne

Neefektivní je jistě i použití kamery, která výrazně zvyšuje hmotnost a částečně komplikuje pohyb. Jedná se ale o prototyp, takže případné finální řešení v koncovém zařízením může používat běžnou kameru postavenou před vámi nebo miniaturní senzory na spodní straně brýlí. Sice by to znamenalo snímání spodní části obličeje pod velmi ostrým úhlem, ale pokud s tím bude systém počítat, pro detekci a zpřesnění výrazu to bude dostačovat.

Klepněte pro větší obrázek

Jak je vidět, ve virtuální realitě budeme moci mít i simulovanou reprezentaci obličeje v reálném čase, což je důležité pro mezilidskou komunikaci. Facebook koupil Oculus VR právě pro budoucnost své platformy, která je postavená na komunikaci lidí mezi sebou. Ve virtuálních světech je tak do budoucna nutné přenášet i tyto vlastnosti našeho těla.

TIP: Virtuální realita místo teleportace. Přivítejte Matrix

Obličej je ale samozřejmě pouze jedna část našeho těla a další jistě budou následovat. Již nyní jsou k dispozici různé prototypy rukavic, které snímají pohyb prstů a rukou v prostoru, pomocí kamer nebo využití dalších senzorů je možné si představit snadné sledování i dalších částí našeho těla jako jsou nohy a podobně.

Psali jsme o technologii Valve Lighthouse, která pomocí dvojice vysílačů je schopná snímat takřka libovolný počet malých a levných senzorů s vysokou přesností a extrémně nízkou odezvou. Lze si tak představit, že pro snímání celého těla nebudou potřeba žádné drahé kamerové systémy.

Vše zajistí větší počet senzorů rozmístěných po našem těle, které budou třeba ukryté v různých flexibilních páscích. Zpočátku propojené dráty, později určitě bezdrátově.

Oficiální publikaci k výzkumu naleznete na stránkách Hao-li.com

Video

Témata článku: Technologie, Virtuální realita, Simulace, Teleportace, Pohyb prstů, Postavená kamera, Virtuální realita HTC vive, Horní polovina, Živý člověk, Teleport, Rozpoznávání, Facial, Brýle pro virtuální realitu, Virtuální, Levný senzor, Snímání, Obličej, SIGGRAPH, Multiplayer, Lidský obličej, Valve, Miniaturní senzor, Libovolný počet, Současná verze, VR brýle pro virtuální realitu

Určitě si přečtěte

Tesla chce změnit nákladní dopravu. Její elektrický náklaďák má ohromující parametry

Tesla chce změnit nákladní dopravu. Její elektrický náklaďák má ohromující parametry

** Tesla představila elektrický kamion ** Má obdivuhodný výkon i dojezd ** Prodávat by se měl už za dva roky

17.  11.  2017 | Vojtěch Malý | 237

Google Mapy mají nový design. Líbí se vám víc než předchozí? Tady je srovnání

Google Mapy mají nový design. Líbí se vám víc než předchozí? Tady je srovnání

** Nový design Google Map přijde na počítače i mobilní telefony. ** Zaměřuje se na zvýraznění konkrétních míst, mapové podklady jsou mnohdy upozaděné. ** Lépe pracuje s chráněnými oblastmi a parky.

20.  11.  2017 | Vladislav Kluska | 30

Black Friday 2017: Přehled slev na elektroniku a počítače

Black Friday 2017: Přehled slev na elektroniku a počítače

** Začala slevová mánie zvaná Black Friday ** Pozor, ne všechny slevy jsou opravdu výhodné ** Průběžně sledujeme slevové akce v počítačových e-shopech

22.  11.  2017 | David Polesný | 32

Co je to láska? Milujeme se pouze kvůli chemickým látkám, nebo je v tom něco víc?

Co je to láska? Milujeme se pouze kvůli chemickým látkám, nebo je v tom něco víc?

** Co je to vlastně láska? Dá se vysvětlit vědecky? ** Výzkum ukázal, že zamilovaní jedinci mají mj. zvýšenou hladinu fenyletylaminu a množství testosteronu ** Je ale rozdíl mezi zamilovaností a láskou

21.  11.  2017 | Vojtěch Malý | 22


Aktuální číslo časopisu Computer

Otestovali jsme 5 HDR 4K televizorů

Jak natáčet video zrcadlovkou

Vytvořte si chytrou domácnost

Radíme s koupí počítačového zdroje