Rozmazali jste text a tvář kvůli ochraně soukromí? Neuronová síť to stejně rozlouskne

  • Pixelizujete citlivý text?
  • Rozmazáváte tváře ve fotografiích?
  • Za pár let to bude málo, stroje to totiž díky učení prokouknou

Čas od času prolétne webem varování, které předvídá hotovou apokalypsu současné digitální kryptografie v případě, že člověk skutečně zhotoví funkční a univerzální kvantový počítač. Takový stroj by totiž mohl v nesprávných rukou během okamžiku spočítat extrémně složité úlohy s prvočísly, na kterých stojí a padají bezpečnostní certifikáty a šifrovací algoritmy počínaje bankovním sektorem a konče každodenním surfováním na stránkách HTTPS.

Zatím můžeme být klidní, současné experimentální kvantové výpočetní stroje totiž mají k jakémusi univerzálnímu počítači asi tak daleko jako vězeň severokorejského koncentračního tábora k Facebooku.

V nejbližších letech bychom se spíše než kvantových počítačů měli obávat něčeho zcela jiného – stále dokonalejších technik strojového učení a neuronových sítí, které dokážou hotové divy i bez superpozice qubitů a kvantového paralelismu.

Jak strojově rozpoznat rozmazanou tvář

Dokladem budiž čerstvá studie (PDF) z počátku září, za kterou stojí skupina vědců z Cornell Tech a Texaské univerzity v Austinu, a které se věnuje technologii odhalování rozmazaných fotografií pomocí strojového učení.

Každý to dobře zná. Čas od času potřebujeme skrýt na fotografii nějaký text nebo lidský obličej, a tak jej buď zničíme mozaikovým efektem, který oblast rozčtverečkuje, anebo klasickým rozmazáním.

Klepněte pro větší obrázek Klepněte pro větší obrázek
Pixelizované tváře policistů při zátahu a rozmazaný obličej ve videu YouTube. Neuronová síť z Cornell Tech a Texaské univerzity v Austinu dokázala připojit tyto rozmazané podoby tváří k těm původním s 57-72 % přesností.

Problém spočívá v tom, že i při poměrně vysoké síle daného efektu v obrazu stále zůstává určitý korelační vztah k originálu. Lidské oko jej pochopitelně nepozná, ale stroj ano. S příchodem konvolučních neuronových sítí je to přitom relativně snadné. Stačí, vzít nějaký velký soubor fotografií osob, použít několik podobných destruktivních efektů a nechat neurnovou síť učit rozpoznávat tyto jemné korelační nuance, které jsou pro lidský mozek naprosto neviditelné.

Vědci ze zmíněných univerzit to chtěli vyzkoušet v praxi, a tak použili čtyři fotografické databáze pro strojové učení (MNIST, CIFAR-10, AT&T a FaceScrub) a každý snímek zničili sedmi metodami – čtyřmi úrovněmi mozaikování a třemi úrovněmi nově navržené techniky P3, která má anonymizovat citlivé informace ve fotografiích JPEG.

Klepněte pro větší obrázek
Čtyři databáze fotografií a sedm metod anonymizace pomocí mozaikování a techniky P3. Právě s tímto nastavením se neuronová síť učila.

Jejich konvoluční neuronová síť se poté učila, jak se zdeformovaný snímek mění vůči svému originálu podle síly efektu, a jelikož v něm i tak často zůstal zřetelný vztah k originálu, software si mohl vytvořit model, kdy jednomu zdeformovanému snímku odpovídaly originály s určitými parametry. Stačilo je pouze vypsat.

Pokud by tedy měli vědci mnohem rozsáhlejší soubory – třeba snímky ze všech cestovních pasů, bezpečnostních kamer a identifikačních karet, jejich software by mohl s určitou přesností identifikovat jakýkoliv zdeformovaný obličej. A jaká přesnost by to vlastně byla?

Neuronová síť identifikovala zcela rozmazanou tvář

Pokud neuronová síť věděla, jakým typem deformace byla fotografie zničená, dokázala na testovacím souboru odhalit původní fotografii s přesností, která mnohdy dosahovala až hodnot 90-100 %. Pokud to však netušila a vědci jí předložili náhodný snímek, klesla úspěšnost 0,19-50 %. I to je však ohromně vysoké číslo – přinejmenším s ohledem na to, že technika má člověka a text prostě schovat. Na 100 % schovat!

Klepněte pro větší obrázek
Výsledky testování pro jednotlivé databáze a techniky anonimizace

Vzhledem k tomu, že je obor strojového učení a neuronových sítí stále v plenkách, a přesto není týdne, abychom si nepřečetli zase o dalším úspěšném experimentu, který posunul laťku o něco výše, je docela možné, že za pár let dokáže na klasickém výkonném superpočítači dříve opravdu nemyslitelné kousky.

Diskuze (30) Další článek: Tim Cook: rozšířená realita bude populárnější než virtuální realita

Témata článku: Technologie, Umělá inteligence, Bezpečnost, Výzkum, Strojové učení, Neuronová síť, Soukromí, Lidské oko, Cornell, Toro, Představivost, Tvář, Koncentrační tábor, Vysoké číslo, Austin, Univerzální počítač, Vědec, Lidský obličej, Vězeň, Deformace, Toronto, Čerstvá studie, Nuance, Určitý parametr, Čerstvá síla


Určitě si přečtěte

Odposlouchávali jsme děravou domácnost: Katka z Brightonu právě sedí doma, zatímco její manžel hraje asi golf

Odposlouchávali jsme děravou domácnost: Katka z Brightonu právě sedí doma, zatímco její manžel hraje asi golf

** Na internetu jsou tisíce nezabezpečených chytrých domácností ** Podívali jsme se na jednu z britského Brightonu ** Útočník sestaví kompletní socioekonomický profil rodiny

Jakub Čížek | 31

Jak funguje největší akumulátor v Česku: podívejte se do elektrárny Dlouhé Stráně

Jak funguje největší akumulátor v Česku: podívejte se do elektrárny Dlouhé Stráně

** Přečerpávací vodní elektrárna Dlouhé stráně je obdivuhodné technické dílo ** Stejná turbína vyrábí elektřinu i tlačí vodu zpět do horního jezera ** Strojovna elektrárny je zabudována v podzemí

David Polesný | 34

Co je srdce nového iPhonu? Apple A12 Bionic, první 7nm čip nabitý výkonem

Co je srdce nového iPhonu? Apple A12 Bionic, první 7nm čip nabitý výkonem

** Apple v nových iPhonech používá nový vlastní čip A12 Bionic ** Jde o první 7nm čip na světě ** Kromě vyššího klasického výkonu dostala neuronová část masivní navýšení rychlosti zpracování umělé inteligence

Karel Javůrek | 38

Nová zbraň proti hackerům: obrovské množství chyb v softwaru

Nová zbraň proti hackerům: obrovské množství chyb v softwaru

** Vědci vymysleli nový systém obrany proti hackerům ** Pomocí speciálního systému implementují do softwaru spoustu chyb ** Tyto chyby nejsou zneužitelné, což útočník zjistí až po čase

Karel Javůrek | 28

Externí SSD se může hodit. Je rychlé, malé zvenku, velké uvnitř a cena už se snese

Externí SSD se může hodit. Je rychlé, malé zvenku, velké uvnitř a cena už se snese

** Vyzkoušeli jsme rychlé externí SSD Samsung T5 ** Externí SSD je lepší než flešky i velké plotnové disky, většímu rozšíření doposud bránila především cena ** Samsung T5 zvládne i chytré šifrování a připojení k mobilu

David Polesný | 27


Aktuální číslo časopisu Computer

Megatest: 13 grafických karet

Srovnání 7 dokovacích stanic s USB-C

Jak na perfektní noční fotografie

Kvalitní zdroje informací pro sebevzdělávání