Umělá inteligence | Bezpečnost | Kamera

Když si oblečete toto neviditelné tričko, zmatete každou chytrou bezpečnostní kameru

S postupným nasazováním chytrých kamer, které dokážou detekovat lidskou postavu, roste i počet studií, které hledají způsob, jak zmást jejich neuronové sítě. Jednu z nich publikoval tým výzkumníků z Facebook AI a Marylandské univerzity na sklonku loňského roku. Nyní ji v souvislosti s hlídanými karanténami připomněla Ars Technica.

Cílem výzkumníků byl funkční neviditelné tričko. Když si jej nasadíte, přestanete pro podobné detektory existovat. Jak je to možné? Vědci jednoduše hledali grafický vzor, který, pokud byste jej měli třeba natištěný na oděvu, zmate běžné komerční neuronové sítě takovým způsobem, že vás označí za člověka s velmi nízkou pravděpodobností. Tím pádem vás budou ignorovat.

Klepněte pro větší obrázekKlepněte pro větší obrázekKlepněte pro větší obrázek
Vzor, který zmate hned několik komerčních detektorů člověka

Ruční hledání takového vzoru by bylo samozřejmě nemyslitelné, a tak si vědci vzali na pomoc vlastní strojové učení a databázi obrázků s lidmi. Tu prohnali běžně dostupnými neuronovými sítěmi určenými k detekci lidské postavy a automatizovanou cestou pak přidávali před fotografii osoby různé pixelové smetí tak dlouho, dokud nezpůsobilo, že síť vzhledem ke své vnitřní architektuře a naučenému modelu selhala.

Klepněte pro větší obrázek
Detektory tváře lze kamuflovat i atypickým účesem, který není součástí žádných studijních dat podobných detektorů (Projekt CV Dazzle)

Toto obrazové smetí – ve skutečnosti změť grafických objektů – pak vytiskli na tričko a testovali, jak budou detektory fungovat.  Mnohé z nich se jim opravdu podařilo ošálit, byť rozhodně ne pokaždé se stoprocentní úspěšností.

Neuronovým sítím stále chybí to nejdůležitější: Schopnost abstraktního myšlení

Nejedná se o první případ svého druhu a opět připomíná klíčovou slabinu současné generace obrazových neuronových sítí – nemají schopnost abstrakce. Člověka dokážou odhadnout jen na základě naučených dat, takže když se vstupní data sítě specifickým způsobem upraví, neuronku to zmate natolik, aby podávala chybné výsledky.

Člověk, který má schopnost abstraktního myšlení a přenášení znalostí z jednoho problému na druhý, s tím problém nemá. Dokáže detekovat osobu, i kdyby se pokreslila sebelepšími barvičkami.  

Diskuze (32) Další článek: Nad Arktidou se otevřela ozonová díra. Je třikrát větší než Grónsko

Témata článku: Facebook, Umělá inteligence, Bezpečnost, Kamera, Neuronová síť, SOB Top, Síť, Ars Technica, Mary, Účes, Smetí, Tričko, Abstraktní myšlení, Bezpečnostní kamera, Detektor, Marylandská univerzita, Vzor



macOS 12 Monterey: Propojené plochy různých zařízení, pokročilá automatizace a přepracované Safari

macOS 12 Monterey: Propojené plochy různých zařízení, pokročilá automatizace a přepracované Safari

** Apple na WWDC 2021 představil novou verzi operačního systému macOS 12 Monterey ** Nová verze macOS piluje zavedený směr k většímu propojení a jednotnosti na různých zařízeních ** macOS 12 dostane spoustu novinek, které dorazí i na iOS a iPadOS

Karel Javůrek
macOSOperační systémyApple
Vyšel Total Commander 10. Novinek je několik, ale dá se bez nich žít
Lukáš Václavík
Správce souborůTotal CommanderSoftware