Umělá inteligence | Tesla Motors | Autonomní vůz

Autopilota Tesly je možné „oblafnout“ projektorem za pár tisíc korun

Před šesti měsíci provedl doktorand Ben Nassi, studující na Ben Gurionově univerzitě v izraelském Negevu, řadu úspěšných útoků na systémy autonomních vozidel. Potřeboval k nim pouze dron vybavený levným projektorem, který promítal obraz na vozovku či na okolní objekty. Své poznatky představil tento týden na konferenci Cybertech Israel v Tel Avivu. O zajímavých experimentech informuje server Ars Technica.

Metoda útoku je prezentována jako jasná ukázka rozdílů mezi schopnostmi umělé a lidské inteligence. Zatímco většina prezentovaných ukázek by člověka téměř jistě nezmátla, Autopilot Tesly doslova „polykal návnady i s navijákem“.

Jak pobláznit Teslu

Nassi vytvořil video, ve kterém nastiňuje možná nebezpečí, jež souhrnně označuje jako „Fantom ADAS“. Na jedné straně je nutné konstatovat, že Tesla reaguje adekvátně k tomu, co její systémy „vidí“. Na straně druhé je Nassova práce důležitá, protože ukazuje potřebu defenzivního návrhu autonomních systémů řízení.

S dronem lze na samořídící auta útočit i bez přítomnosti na místě – náklady jsou přitom směšně nízké, neboť stačí dron s cenou kolem 9 000 Kč a projektor, který stojí okolo 7 000 Kč. Sám Nassi ověřil, že k úspěšnému útoku stačí i projektor s rozlišením 854 × 840 obrazových bodů a světelným tokem 100 lumenů, jehož cena se pohybuje v přepočtu kolem 4 500 Kč.

Ben Nassi hned v úvodu videa konstatuje, že rozdíly mezi inteligencí strojů a lidí řešil už před sedmdesáti lety Alan Turing. Následně ukazuje promítané obrázky chodce a dopravní značky, u kterých je naprosto evidentní, že by je člověk správně reprezentoval jako projekci.

Zmatená Tesla

Autopilot Tesly však využívá k identifikaci objektů umělou inteligenci, která je rozpoznává na základě naučených vzorů. Nedokáže tedy spolehlivě rozeznat skutečnou dopravní značku od její promítané projekce, stejně jako nerozliší člověka od jeho obrazu.

Nassi následně konstatuje, že tuto metodu lze zneužít k útoku na vozidla s pokročilými systémy asistence řidiče. Ta budou na promítané objekty reagovat, jako by byly skutečné – před chodcem zastaví, na základě značky sníží rychlost a tak podobně.

Podstatně zákeřnější je promítání falešného vodorovného dopravního značení. V tomto případě Tesla Model X následovala projektované čáry na vozovce tak, jako by byly skutečné. Bylo by tak snadné navést auto třeba do protisměru, nebo kamkoli jinam.

V rámci objektivity je však závěrem nutné podotknout, že ačkoli je systém autonomního řízení Tesly označován jako Autopilot, ve skutečnosti nenabízí plnou autonomii. Podobné situace by měl tedy řešit řidič, jež by měl být po celou dobu jízdy připraven zasáhnout.

Diskuze (68) Další článek: Kde vzniká CO₂ a proč se tak moc řeší? Snaha o snižování emisí má opodstatnění

Témata článku: Automobily, Umělá inteligence, Tesla Motors, Elektromobily, Strojové učení, Autonomní vůz, Alan Turing, Projektor, Úspěšný útok, Drony, Tesla Model X, Autopilot Tesly, Tesla, Objekt, Dopravní značka, Inteligence, Ars Technica, Tel Aviv, Ben Gurionova univerzita


Určitě si přečtěte

Proč teď nedává smysl kupovat notebook a kdy přijde ten správný čas

Proč teď nedává smysl kupovat notebook a kdy přijde ten správný čas

** Během pár týdnů přijdou na trh výkonnější notebooky ** Čím dražší notebook vybíráte, tím víc se vám změní nabídka ** Také lehké notebooky budou téměř herní

Tomáš Holčík | 52

Nejlepší příslušenství k počítači. Tipy na osvědčené klávesnice, tiskárny, routery…

Nejlepší příslušenství k počítači. Tipy na osvědčené klávesnice, tiskárny, routery…

** Tipy na klávesnice, myši, routery, tiskárny, sluchátka a další věci k počítačům ** Poradíme, s jakými produkty neuděláte chybu ** Vybíráme jak příslušenství na běžnou práci, tak na hraní her

David Polesný | 22

České Rajče je stále plné dětských nahotin. Student pomocí A.I. analyzoval miliony fotek

České Rajče je stále plné dětských nahotin. Student pomocí A.I. analyzoval miliony fotek

** Rajče.net má odjakživa problémy s choulostivými fotkami dětí ** Student zlínské univerzity analyzoval jeho katalog ** Neuronová síť doposud prozkoumala 6 milionů snímků

Jakub Čížek, Filip Šedivý | 75

Šmírování kamerami Googlu: Koukněte, co šíleného se objevilo na Street View

Šmírování kamerami Googlu: Koukněte, co šíleného se objevilo na Street View

Google stále fotí celý svět do své služby Street View. A novodobou zábavou je hledat v mapách Googlu vtipné záběry. Podívejte se na výběr nejlepších!

redakce | 7

Dnes nastal konec Windows 7. Ale nepropadejte panice, počítač vám nastartuje i zítra

Dnes nastal konec Windows 7. Ale nepropadejte panice, počítač vám nastartuje i zítra

** Dnes končí podpora Windows 7 a systém formálně umírá ** Co to ale znamená v praxi a bude mi PC fungovat i zítra? ** A mohu i v lednu 2020 zdarma přejít na Windows 10?

Jakub Čížek | 121

Nejlevnější router s Wi-Fi 6 v testu: vážně ještě chcete kupovat routery jen pro 802.11ac?

Nejlevnější router s Wi-Fi 6 v testu: vážně ještě chcete kupovat routery jen pro 802.11ac?

** Otestovali jsme TP-Link Archer AX10, nejdostupnější router s Wi-Fi 6 ** Šetřilo se, ale zatím ty ústupky tolik nebolí ** Pro domácí síťování pohodlná volba, do firmy ale chcete něco lepšího

Tomáš Holčík | 44

Nový Edge je opravdu Chrome! Prohnali jsme prohlížeče benchmarky i vlastním unikátním testem

Nový Edge je opravdu Chrome! Prohnali jsme prohlížeče benchmarky i vlastním unikátním testem

** Nový Edge je postavený na Chromiu ** Prohnali jsme ho benchmarky a srovnali s ostatními ** Potvrdily nám, že je prakticky stejný jako Chrome a Opera

Jakub Čížek | 65



Aktuální číslo časopisu Computer

Megatest 12 bezdrátových sluchátek

Vyplatí se Apple z bazaru?

Test batohů pro notebooky

Vybíráme nejlepší sportovní hodinky