Umělá inteligence | Bezpečnost | Kamera

Když si oblečete toto neviditelné tričko, zmatete každou chytrou bezpečnostní kameru

S postupným nasazováním chytrých kamer, které dokážou detekovat lidskou postavu, roste i počet studií, které hledají způsob, jak zmást jejich neuronové sítě. Jednu z nich publikoval tým výzkumníků z Facebook AI a Marylandské univerzity na sklonku loňského roku. Nyní ji v souvislosti s hlídanými karanténami připomněla Ars Technica.

Cílem výzkumníků byl funkční neviditelné tričko. Když si jej nasadíte, přestanete pro podobné detektory existovat. Jak je to možné? Vědci jednoduše hledali grafický vzor, který, pokud byste jej měli třeba natištěný na oděvu, zmate běžné komerční neuronové sítě takovým způsobem, že vás označí za člověka s velmi nízkou pravděpodobností. Tím pádem vás budou ignorovat.

8830f87a-b1dc-4157-8647-25b54dac6f2d6212bd87-b5e9-42b1-9802-1abb4a5e3ebc9ee81e19-0ab9-4973-8dd6-b5fcc3bf72a7
Vzor, který zmate hned několik komerčních detektorů člověka

Ruční hledání takového vzoru by bylo samozřejmě nemyslitelné, a tak si vědci vzali na pomoc vlastní strojové učení a databázi obrázků s lidmi. Tu prohnali běžně dostupnými neuronovými sítěmi určenými k detekci lidské postavy a automatizovanou cestou pak přidávali před fotografii osoby různé pixelové smetí tak dlouho, dokud nezpůsobilo, že síť vzhledem ke své vnitřní architektuře a naučenému modelu selhala.

5e31b4db-b7c8-4097-b8af-8c9be1440ad6
Detektory tváře lze kamuflovat i atypickým účesem, který není součástí žádných studijních dat podobných detektorů (Projekt CV Dazzle)

Toto obrazové smetí – ve skutečnosti změť grafických objektů – pak vytiskli na tričko a testovali, jak budou detektory fungovat.  Mnohé z nich se jim opravdu podařilo ošálit, byť rozhodně ne pokaždé se stoprocentní úspěšností.

Neuronovým sítím stále chybí to nejdůležitější: Schopnost abstraktního myšlení

Nejedná se o první případ svého druhu a opět připomíná klíčovou slabinu současné generace obrazových neuronových sítí – nemají schopnost abstrakce. Člověka dokážou odhadnout jen na základě naučených dat, takže když se vstupní data sítě specifickým způsobem upraví, neuronku to zmate natolik, aby podávala chybné výsledky.

Člověk, který má schopnost abstraktního myšlení a přenášení znalostí z jednoho problému na druhý, s tím problém nemá. Dokáže detekovat osobu, i kdyby se pokreslila sebelepšími barvičkami.  

Diskuze (32) Další článek: Nad Arktidou se otevřela ozonová díra. Je třikrát větší než Grónsko

Témata článku: , , , , , , , , , , , , , , , , , ,