Bezpečnost | Umělá inteligence | Kamera

Když si oblečete toto neviditelné tričko, zmatete každou chytrou bezpečnostní kameru

S postupným nasazováním chytrých kamer, které dokážou detekovat lidskou postavu, roste i počet studií, které hledají způsob, jak zmást jejich neuronové sítě. Jednu z nich publikoval tým výzkumníků z Facebook AI a Marylandské univerzity na sklonku loňského roku. Nyní ji v souvislosti s hlídanými karanténami připomněla Ars Technica.

Cílem výzkumníků byl funkční neviditelné tričko. Když si jej nasadíte, přestanete pro podobné detektory existovat. Jak je to možné? Vědci jednoduše hledali grafický vzor, který, pokud byste jej měli třeba natištěný na oděvu, zmate běžné komerční neuronové sítě takovým způsobem, že vás označí za člověka s velmi nízkou pravděpodobností. Tím pádem vás budou ignorovat.

Klepněte pro větší obrázekKlepněte pro větší obrázekKlepněte pro větší obrázek
Vzor, který zmate hned několik komerčních detektorů člověka

Ruční hledání takového vzoru by bylo samozřejmě nemyslitelné, a tak si vědci vzali na pomoc vlastní strojové učení a databázi obrázků s lidmi. Tu prohnali běžně dostupnými neuronovými sítěmi určenými k detekci lidské postavy a automatizovanou cestou pak přidávali před fotografii osoby různé pixelové smetí tak dlouho, dokud nezpůsobilo, že síť vzhledem ke své vnitřní architektuře a naučenému modelu selhala.

Klepněte pro větší obrázek
Detektory tváře lze kamuflovat i atypickým účesem, který není součástí žádných studijních dat podobných detektorů (Projekt CV Dazzle)

Toto obrazové smetí – ve skutečnosti změť grafických objektů – pak vytiskli na tričko a testovali, jak budou detektory fungovat.  Mnohé z nich se jim opravdu podařilo ošálit, byť rozhodně ne pokaždé se stoprocentní úspěšností.

Neuronovým sítím stále chybí to nejdůležitější: Schopnost abstraktního myšlení

Nejedná se o první případ svého druhu a opět připomíná klíčovou slabinu současné generace obrazových neuronových sítí – nemají schopnost abstrakce. Člověka dokážou odhadnout jen na základě naučených dat, takže když se vstupní data sítě specifickým způsobem upraví, neuronku to zmate natolik, aby podávala chybné výsledky.

Člověk, který má schopnost abstraktního myšlení a přenášení znalostí z jednoho problému na druhý, s tím problém nemá. Dokáže detekovat osobu, i kdyby se pokreslila sebelepšími barvičkami.  

Diskuze (31) Další článek: Nad Arktidou se otevřela ozonová díra. Je třikrát větší než Grónsko

Témata článku: Bezpečnost, Facebook, Umělá inteligence, Kamera, Neuronová síť, Síť, SOB Top, Smetí, Bezpečnostní kamera, Ars Technica, Tričko, Vzor, Abstraktní myšlení, Detektor


Určitě si přečtěte

Geniální programátor Edsger Dijkstra: hledal nové postupy a zavrhoval GoTo

Geniální programátor Edsger Dijkstra: hledal nové postupy a zavrhoval GoTo

** Edsger Dijkstra je osobností historie programování ** Vynalezl algoritmus pro nalezení nejkratší cesty v grafu a dostal Turingovu cenu ** Zasloužil se o blízké propojení programování a matematiky

Jiří Nahodil | 13

Nový Apple Macbook Air je levnější, má větší SSD a vrací se k tradiční klávesnici

Nový Apple Macbook Air je levnější, má větší SSD a vrací se k tradiční klávesnici

** Nový MacBook Air opravuje nejzásadnější chyby dosavadní verze ** Dostal lepší klávesnici, výkonnější procesor a 256GB SSD ** Apple navíc snížil ceny

Martin Miksa | 54


Aktuální číslo časopisu Computer

Megatest 24 PC zdrojů

Jak využít umělou inteligenci

10 špičkových sluchátek s ANC

Playstation 5 vs Xbox Series X