Autonomní systémy pro vozidla mají občas problémy s pevnými překážkami, což se dříve ukázalo například i u Tesly, která používá pro automatické řízení kombinaci radaru a kamer. Minulý rok to byla nehoda se stojícím automobilem nebo ukázky nečekaného vjezdu do bariér na dálnic.
I když se zdálo, že problém byl s následnou aktualizací softwaru vyřešen, po mnoha dalších aktualizacích a vylepšení se však systém opět potýká se stejnou chybou. Na Redditu se totiž objevil záznam testu, kdy Tesla v rámci několika různých jízd při různých světelných podmínkách naprosto ignorovala postranní bariéry a pokud by lidský řidič nezasáhl, došlo by k nehodě v plné rychlosti.
Je zvláštní, že tento problém byl už jednou vyřešen ve starší aktualizaci a nyní je opět zpět. V tomto směru už se stalo poměrně dost nehod a princip lze snadno testovat. Vše se samozřejmě odvíjí od toho, že autonomní systém snadno sleduje čáry na silnici, vozidla kolem sebe, ale stojící bariéry různých tvarů ve spojení s přebarvenými čárami na silnici jsou určitě náročné na detekci v obrazu.
Problém je, že autonomní systém v jedné verzi aktualizace funguje dobře a v další hůře. Jakmile si řidič zvykne na to, že se může spolehnout na autonomní řízení třeba na obvyklé trase, může dojít k nečekané nehodě jen kvůli tomu, že se nová aktualizace zhoršila v určité funkci. Tady je určitě potřeba provádět mnohem detailnější testy a simulace, aby bylo vždy ošetřeno, že dochází k celkovému zlepšování a nějaká část řízení se náhodou nezhorší jako v tomto případě.
