Umělá inteligence | Tesla Motors | Autonomní vůz

Autopilota Tesly je možné „oblafnout“ projektorem za pár tisíc korun

Před šesti měsíci provedl doktorand Ben Nassi, studující na Ben Gurionově univerzitě v izraelském Negevu, řadu úspěšných útoků na systémy autonomních vozidel. Potřeboval k nim pouze dron vybavený levným projektorem, který promítal obraz na vozovku či na okolní objekty. Své poznatky představil tento týden na konferenci Cybertech Israel v Tel Avivu. O zajímavých experimentech informuje server Ars Technica.

Metoda útoku je prezentována jako jasná ukázka rozdílů mezi schopnostmi umělé a lidské inteligence. Zatímco většina prezentovaných ukázek by člověka téměř jistě nezmátla, Autopilot Tesly doslova „polykal návnady i s navijákem“.

Jak pobláznit Teslu

Nassi vytvořil video, ve kterém nastiňuje možná nebezpečí, jež souhrnně označuje jako „Fantom ADAS“. Na jedné straně je nutné konstatovat, že Tesla reaguje adekvátně k tomu, co její systémy „vidí“. Na straně druhé je Nassova práce důležitá, protože ukazuje potřebu defenzivního návrhu autonomních systémů řízení.

S dronem lze na samořídící auta útočit i bez přítomnosti na místě – náklady jsou přitom směšně nízké, neboť stačí dron s cenou kolem 9 000 Kč a projektor, který stojí okolo 7 000 Kč. Sám Nassi ověřil, že k úspěšnému útoku stačí i projektor s rozlišením 854 × 840 obrazových bodů a světelným tokem 100 lumenů, jehož cena se pohybuje v přepočtu kolem 4 500 Kč.

Ben Nassi hned v úvodu videa konstatuje, že rozdíly mezi inteligencí strojů a lidí řešil už před sedmdesáti lety Alan Turing. Následně ukazuje promítané obrázky chodce a dopravní značky, u kterých je naprosto evidentní, že by je člověk správně reprezentoval jako projekci.

Zmatená Tesla

Autopilot Tesly však využívá k identifikaci objektů umělou inteligenci, která je rozpoznává na základě naučených vzorů. Nedokáže tedy spolehlivě rozeznat skutečnou dopravní značku od její promítané projekce, stejně jako nerozliší člověka od jeho obrazu.

Nassi následně konstatuje, že tuto metodu lze zneužít k útoku na vozidla s pokročilými systémy asistence řidiče. Ta budou na promítané objekty reagovat, jako by byly skutečné – před chodcem zastaví, na základě značky sníží rychlost a tak podobně.

Podstatně zákeřnější je promítání falešného vodorovného dopravního značení. V tomto případě Tesla Model X následovala projektované čáry na vozovce tak, jako by byly skutečné. Bylo by tak snadné navést auto třeba do protisměru, nebo kamkoli jinam.

V rámci objektivity je však závěrem nutné podotknout, že ačkoli je systém autonomního řízení Tesly označován jako Autopilot, ve skutečnosti nenabízí plnou autonomii. Podobné situace by měl tedy řešit řidič, jež by měl být po celou dobu jízdy připraven zasáhnout.

Diskuze (71) Další článek: Kde vzniká CO₂ a proč se tak moc řeší? Snaha o snižování emisí má opodstatnění

Témata článku: Umělá inteligence, Elektromobily, Automobily, Tesla Motors, Autonomní vůz, Strojové učení, Alan Turing, Driving, Inteligence, Tesla, Úspěšný útok, TES, Dopravní značka, Drony, Tesla Model X, Cyber Security, Autopilot Tesly, Projektor, Tel Aviv, Objekt, Ars Technica, Ben Gurionova univerzita, Drony na Heureka.cz



Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

** Sex manželských párů jen při zvláštních příležitostech. ** Ložnice ovládnou sexuální roboti s umělou inteligencí. ** I to je jeden ze závěrů Mezinárodní robotické konference.

Filip KůželJiří Liebreich
RobotiSexUmělá inteligence
Nastal pravý čas na výměnu telefonu. Jak poznat, že ten váš už dosluhuje?

Nastal pravý čas na výměnu telefonu. Jak poznat, že ten váš už dosluhuje?

** Jak poznat, že váš telefon má nejlepší dny za sebou? ** Vypadá potlučeně, má pavučinu nebo nedostává aktualizace? ** Ukážeme si, kdy má smysl jeho oprava, a kdy už jen koupě nového

Martin Chroust
Prasklý displejVysloužilý mobilSmartphony
Jak zrcadlit obrazovku mobilu a počítače do televize

Jak zrcadlit obrazovku mobilu a počítače do televize

Ať už se chcete pochlubit fotkami z dovolené na velké obrazovce, nebo si přehrát video uložené na disku počítače, neobejdete se bez zrcadlení obrazovky. Ve výchozím stavu jej podporuje Windows i Android.

Stanislav Janů
NávodyTelevizeWindows
10 důvodů, proč přejít z iPhonu na Android. Přesvědčí vás tento seznam o změně mobilní platformy?

10 důvodů, proč přejít z iPhonu na Android. Přesvědčí vás tento seznam o změně mobilní platformy?

** Google se snaží přesvědčit uživatele iOS o přechodu na Android ** Vytyčil deset největších důvodů pro změnu platformy ** Nám to však příliš nestačí, spokojíte se s hlavními důvody alespoň vy?

Martin Chroust
GoogleiOSAndroid
Oppo a OnePlus nesmí v Německu prodávat telefony. Zákaz hrozí i v dalších zemích EU

Oppo a OnePlus nesmí v Německu prodávat telefony. Zákaz hrozí i v dalších zemích EU

** Patentové spory většinou ústí k tomu, že jedna z firem zaplatí ** Oppo ani OnePlus však nechtějí platit 2,50 EUR za každý telefon ** Firmy už v Německu nesní prodávat, a to může platit i o dalších trzích

Martin Chroust
NěmeckoPatentSmartphony
Jak poznat, že máte možná hacknutý telefon? Toto je devět symptomů, které můžete pozorovat

Jak poznat, že máte možná hacknutý telefon? Toto je devět symptomů, které můžete pozorovat

** Jak poznat, že je váš smartphone hacknutý? ** Hledejte známky po nestandardním chování telefonu ** Stačí když telefon vydrží méně nebo topí i v klidovém režimu...

Martin Chroust
Jak...Malware