Bezpečnost | Tesla Motors | Autonomní vůz

Jak poslat Teslu do protisměru? Stačí samolepky, které řidič nevidí

  • Teslu v režimu autopilota je možné zmást a poslat do protisměru
  • Odborníkům k tomu stačily tři samolepky na vozovce
  • Je důvod se znepokojovat? Ne, pokud řidič dává pozor

Bezpečnostní experti vymysleli jednoduchý útok, kterým dokážou, že Tesla, jedoucí v autonomním režimu, za určitých podmínek vjede do protisměru. Nejde přitom o žádné hackování palubního systému, ale nenápadné samolepky, jejichž umístění a provedení napodobuje změnu jízdního pruhu.

Rozšířený autopilot Tesly („Enhanced Autopilot“) má celou řadu schopností, počínaje udržováním jedoucího auta ve středu jízdního pruhu, přes automatické parkování, až po schopnost měnit jízdní pruhy (to vyžaduje potvrzení řidiče).

Při orientaci v prostoru spoléhá primárně na kamery, ultrazvukové senzory a radar. Pomocí těchto technologií získává informace o překážkách, terénu a změnách jízdních pruhů. Palubní počítače pomocí umělé inteligence vyhodnocují situaci a hledají nejlepší způsob, jak na ni reagovat.

Jak obelstít systémy Tesly?

Odborníci z Keen Security Lab rozebrali pomocí reverzního inženýrství několik automatizovaných procesů. Jejich cílem bylo zjistit, jak systémy Tesly reagují na změny prostředí. Jedním z nejpozoruhodnějších objevů byl způsob, jak autopilota přimět k nasměrování vozidla do protisměru.

Metoda „útoku“ je až děsivě prostá: stačilo na vozovku přilepit tři samolepky, které jsou pro řidiče téměř neviditelné. Systémy vozu je ovšem vyhodnocovaly jako čáru, která naznačuje, že se jízdní pruh stáčí směrem doleva. V důsledku toho pak autopilot směroval Teslu tímto směrem.

V podrobné 37stránkové zprávě experti uvádějí: „Funkce rozpoznávání jízdních pruhů autopilota Tesly má dobrou odolnost v běžném externím prostředí (bez silného světla, deště, sněhu, písku a prachu), ale v našem testovacím scénáři situaci nezvládá korektně.“

Dále zmiňují, že materiál potřebný k provedení útoku se dá velmi snadno opatřit a hodnotí čistě vizuální systém rozpoznávání jízdních pruhů jako bezpečnostní riziko. Jsou přesvědčeni o tom, že pokud vozidlo „ví“, že falešný pruh míří do protisměru, mělo by ho ignorovat a zabránit tak riziku nehody.

Zmatení autonomních systémů

Experti zjistili, že autopilot používá k detekci jízdních pruhů funkci zvanou detect_and_track a aktualizuje interní mapu o získané informace. Do procesu vstupuje několik opatření, jejichž cílem je zabránit nesprávné detekci. Berou v úvahu například tvar a směr krajnice, historii jízdních pruhů, velikost a vzdálenost různých objektů.

Vědci si „hráli“ také s dalšími systémy a našli například způsob, jak spustit automatické stěrače, aniž by pršelo. Tesla totiž nepoužívá pro detekci dešťových kapek tradiční optické snímače, ale kamery vozidla. Když dojde na základě analýzy k závěru, že prší, spustí stěrače.

Uvedené způsoby útoku na systémy autonomního vozidla nejsou žádnou novinkou. Už koncem roku 2017 odborníci ukázali, jak nálepky připevněné k dopravním značkám mohou zmást systémy samořídících aut. Cílem je poukázat na podobné nedostatky a najít způsob, jak chytrá auta naučit správně vyhodnocovat danou situaci.

Experti z Keen Security Lab konstatují, že jejich experimenty jsou založeny na scénářích, ve kterých je fyzické prostředí kolem vozidla uměle změněno tak, aby ovlivnilo chování vozu. Jedním dechem dodávají, že není důvod ke znepokojení, neboť řidič může kdykoliv přepnout z autopilota na ruční režim použitím volantu nebo brzd a vždy by měl být připraven tak učinit.

Diskuze (99) Další článek: Microsoft přestává prodávat ebooky, zakoupené knihy lidem proplatí

Témata článku: , , , , , , , , , , , , , , , , , , , , ,