Autopilota Tesly je možné „oblafnout“ projektorem za pár tisíc korun

Ta projekce šla z dronu. Jeho majitele bys těžko v tu chvíli hledal. Takže ano, umím si to představit.

On je tady i právní problém, nedávno o tom mluvil nějaký expert. Současný právní systém a všechny zákony počítají s odpovědností člověka. Když se něco stane, je za to nakonec vždy odpovědný nějaký člověk, kterého se dá potrestat, dá se po něm vymáhat náhrada škody a podobně. A nikdo neví, jak tohle předělat na situaci, že se někde ve volném prostoru budou pohybovat autonomní zařízení, které není možné trestat nebo po nic něco vymáhat. Proto taky v současnosti se v praxi jedná zatím jen a pouze o různé asistenty, které řidiči pomáhají, ale on je pořád tím odpovědným a musí dávat pozor, jde zejména o právní důvody, spíš než o technologická omezení. Přestavba právního systému, aby uměl řešit odpovědnost stroje, je údajně v nedohlednu a zatím se jedná jen o bouřlivou akademickou diskusi, jak tohle řešit - do podoby paragrafů a schvalování zákonodárci to bude trvat ještě hodně a hodně dlouho.

Řešení právní odpovědnosti je známé a jednoduché. Když není řidič, zodpovídá provozovatel. Je jasné, že v tom případě se lidé do nákupu autonomního auta nepohrdnou, ale s tím už se taky počítá. Například Tesla bude svá auta provozovat sama jako taxi, nemusí je prodávat a klidně zodpovědnost za autopilota přijme.

psychopatov z oblasti prava nebude vobec treba, pretoze casom bude samoriadenie tak dobre, ze ziadne nehody ani mrvy nebudu. a ak budu, tak budu samozrejme zodpovedni vyrobcovia. ked dnes ti niekto napadne napr pocitac koli tomu ze napriek aktualizaciam mas deravy windows a bude tvoj pc sirit detsku pornografiu, nebudes zodpovedny ty, ale ten virus ci vyrobca aby pristupoval k zabezpeceniu nedoslednen.

100% utopie, myšlení komunistického levičáka. Všichni se budou míst stejně a dobře = učebnicový paradox.
> I ve velmi vzdálené budoucnosti budou nehody s mrtvými a vůbec nepůjde o auta, ale klidně o obří vesmírné lodě, které si dnes ani neumíme představit. Přes všechnu technologii, přes všechna opatření, přes všechnu znalost a předvídání.

to si, ako obvykle, nepochopil. nikde nepisem ze sa kazdy bude mat dobre, pisem ze nebudu autonehody, pretoze z vacsinoveho debila za volantom sa posunieme k prakticky neomylnej umelej inteligencii.

Neomylná AI je též utopie, dnes i v budoucnu. Lidská inteligence je proti strojové natolik složitá, že je jejímu vývoji prakticky nikdo nevěnuje a přesto chybuje, už vidím jak úzká AI bude bezchybná, kdy jen opakuje to, co před tím pochytila z mnoha podobných příkladů, které nemusí vést v daném případě ke správnému výsledku. Dnes máme pouze pseudo AI = AI je předstírána za pomocí statistiky, kde lze pro změnu výsledku manipulovat se vstupy i výstupy dat, typickým příkladem je bankovní sektor nebo jazykový překladač.

i ludske myslenie je iba statistika. este si mlady, AI nad urovnou inteligencie cloveka sa dozijes. a to omnoho skor ako vacsina ludi predpoklada

Nemám stejný názor, ale nebudu ti brát ten tvůj. Nakonec uvidíme kdo měl pravdu, ale z logiky věci, když se člověk zamyslí na lidskou AI, i kdyby nakrásně šlo také jen o statistiku bude tak neskutečně složitá a komplikovaná, že ani děti našich dětí nebudou schopny vytvořit umělou lidskou (nebo podobně komplexní) mysl. A tohle netvrdím já, ale lidé denně s tou úzkou AI pracující.
> Můj názor se nemění, lidská AI sice bude obsahovat část strojového učení, od mládí dochází několikrát (3x) k reorganizaci, ztrátě mnoha synapsí (proto si z raného dětství moc nematujeme), které jsou později nahrazeny dalšími s novými vědomostmi a jinou správou dat (místo sběru, jsou tříděna a využívána, ve 30 letech veškeré procesy končí a mozek už jen stárne a zhoršuje se jeho výkon), ale tyhle procesy musí řídit nějaký systém. Statistika nic takového neumožňuje. Myslím si, že právě pochody od dětství k dospělosti a také rozdíly mezi mozkem ženy a muže jsou značnou podporou mé hypotézy.

😁😁👍🖖

“nikdy” je docela dlouha doba ;)

"nikdy" není dlouhá doba, možná jen pro někoho, kdo věří v desítky tisíc let šťastné budoucnosti lidstva

Naštěstí co Ty nečekáš, je každému ukradené a výrobcům autonomních systémů tuplem.

s tím "nikdy" bych byl opatrný

...řekl Roman Langer a poté jeho zastaralé názory upadly navždy v zapomnění (stejné jako obdobné názory jiných "Langerů" v každé předchozí generaci)... naštěstí vývoj technologií moc na názory lidí, kteří se bojí novot a pokroku, nikdy moc nedal a tak dnes nejezdíme na koňském spřežení.

To si ještě povíme, kdo tady upadne do zapomnění...

Zkuste 3x hádat. Možná na to přijdete.

To bych tak úplně nesrovnával, protože člověk na rozdíl od omezené AI dokáže vidět obraz v širší rovině a snad i těm hloupějším lidem by došlo, že značky a různé jiné označení neobvyklého vzhledu nejsou v pořádku a minimálně by třeba zpomalili aby se ujistili či ověřili pravost/nepravost či alespoň zbystřili.

Je otázka co srovnavate a za jakých podmínek. Říct "člověk", je hodně široký pojem, jiné schopnosti bude mít pravděpodobně někdo na prahu 70ti let v dešti v noci a jiné trénovaný odpočatý profesionální řidič za slunečného dne na přehledném úseku.Určitě není problém snížit práh citlivosti při porovnávání objektů v neuronové sítí (tedy aby se auto vice "bálo"). Nicméně stále mi studie přijde na úrovni toho, že zjistili jsme že auto které vyuziva optických senzorů lze obalamutit tím, že mu ukážeme něco jiného. Což je podobná úvaha jako - autu jsme zakryli kamery a ono nevidí - s implikací toho, že člověk by se snad choval jinak. Jen pro dokreslení situace 2-3 dny stará zpráva kdy na šampionátu v hokeji byl Do obrazu doklicovan reklamní automobil namísto
Fyzického - kolik lidí si toho všimlo?

První a poslední problém celý kauzy je ten, že autopilot prostě není AI, je to jenom hloupej program, kterej se chová jako hloupej program. Ty neustálý kecy o AI jsou uplně z cesty.

Neuronky nejsou AI? Asi bysme si měli sjednotit terminologii, já si vždycky myslel, že neuronky jsou umělá inteligence právě proto, že napodobují ( = umělá) strukturu propojení neuronů lidského mozku ( = inteligence). Takhle mi to říkali lidé, kteří neuronky dělají, tak nevím. Třeba jsou taky členy nějaké sekty nebo jsou podplacení farmalobby jako lékaři nebo ilumináty jako klimatologové...

Nie, autopilot nie je plnohodnotne AI. Je to expertny system, learning machine, ktory sa ucil na 2d obrazkoch. Na inteligentnejsie neuronky si este pockame ale bude to stat za to :)

myslim ze precenujes inteligenciu bezneho cloveka

Já bych to taky nesrovnával. Už teď v drtivé většině situací vychází autopilot výrazně lépe, než člověk.A když chce někdo autopilota nachytat, musí vymyslet takovouhle pitomost.

když autopilota nachytáš na pitomost, v čem je lepší?

Dokazuje to, že pokud by někdo měl zlé úmysly a chtěl způsobit třeba vážnou nehodu nebo jen zablokovat provoz, stačí mu na to z mostu projektorem promítnout něco na silnici pod sebou a pak beze stopy zmizet... Což není moc povzbudivá zpráva..

Alebo len hodi dolu betonovu tvarnicu a potom bez stopy zmizne....ze...co tiez nie je moc povzbudive....

Ano, ale tvárnice je už něco hmotného, objektivně se do toho narazí, to se dá pochopit... Ale dosáhnout podobného výsledku pouhou projekcí, to je rozdíl. Lidský mozek by se tak snadno oblafnout nejspíš nenechal, člověk by vyhodnotil, že to je "divné" a pravděpodobně by se tím hned slepě neřídil...

Pro mě je tedy jednodušší donést si na most tvárnici, než projektor s dostatečnými parametry a zdrojem a čekat na autonomní auto. Z "černé skříňky" autonomního auta budou mít stejně hmatatelné údaje toho co se stalo.

No jestli chápu článek, tak se nejedná jen o autonomní auta.
Ale i o všechna auta s různými asistenty implementované pomocí kamery.
Když Vám auto samo od sebe dupne plně na brzdy s rozjetým kamionem v zádech....
A že jich EU začíná nařizovat v povinné nevypnutelné výbavě čím dále tím více.

Jo, podobně, jako ti lidé, co se navigací nechají zatáhnout do zákazu vjezdu apod. :D
Já bych si o řidičích nedělal nějaké velké naděje .
Zdar Max

Jo to povídej tomu pánovi co najel do tunelu nakresleného na zdi.

Taky možnost, ale to je vyloženě hrubá síla. Tímto způsobem (projektor) lze dělat mnohem cílenější a preciznější útoky.
Třeba kdyby chtěl někdo někoho unést/zavraždit tak si jen projektorem na správném místě "navede" cíl pomocí falešných značení třeba do nějaké postranní uličky a provede útok. Možností je velmi mnoho a ke zneužití jistě nebude daleko.

Ne, moc koukáte na akční filmy... Když někdo někoho bude chtít zabit, tak k němu naběhne v noci a střelí ho do hlavy...tak jak se to reálně děje ( i v naších končinách)

Mně na to stačí deska s hřebíky.

Značný rozdíl bude ve vnímání kontextu. Jak by se například zachoval automatický asistent kdyby mu na dálnici někdo promítnul značku 30-ky. Docela věřím, že automatický asistent (a to ne jen ten Teslácký) by dupnul na brzdu aby zpomalil na "povolených" 30 a následně se nechal sešrotovat kaminonem jedoucím v závěsu za ním.
Člověk toto neudělá. Ale pokud to bude značka platná v kontextu (např. na hraničním přechodu) tak ji zohlední.

Nemám Teslu, ale mám auto, která má rozpoznávání značek a tím umí zásobit adaptivní tempomat a takhle se nechová - tedy, že by šel na plný brzdy (čistě mechanicky). U tesly čekám, že bude ten kontext chápat (tedy jsem na dálnici, kde si do teď myslím, že mohu jet 130 a najednou mi něco říká jeď 30, tak se k tomu nějak adekvátně zachovám). Ale to ať se případně vyjádří nějaký majitel.Já rozumím tomu co zde "odpůrci" mého pohledu říkají, co říkám já, že :a) je to pochopitelné vyústění jedné z technologií, která se pro autonomní řízení používá (a je téměř jasné, že to nebudou jen kamery)
b) většinu těch "hororových" scénářů, kdy pomocí projektu do sebe narazí kamion s cyklistou, lze efektivně softwarově / HW vyřešit=> studie je za mě fajn jako upozornění na to, že je potřeba nějakou část spektra usecase-ů postihnout, ale imho si to nezaslouží bulvarizující si článek jak se projektorem za 4000kč oblafuje tesla. Ekvivalent je, že živého řidiče oblafne vystřihovánka policisty za 200kč. Jo, no, ale co ?

Lidé nehavaruji kvůli aquaplaningu?

Od autonomnich rizeni, clovek ocekava vic jak od skupiny riskujicich lidi.

Havarují. A jsou za to trestání a musí například nahrazovat škodu, kterou tím způsobí.

od té doby, co auta s asisteny nemají povinné ručení?

To nemá s povinným ručením nic společného. Viník je řidič, osoba. On za nehodu odpovídá, on nahradí škodu a případně si půjde sednout, když jej odsoudí. Povinné ručení je jen garance pro poškozené, že z něj něco dostanou, i kdyby sám neměl, nebo nechtěl dát. Proto je povinně pojištěný. Ale pokud řidič způsobí škodu třeba vyšší, než je jeho sjednané maximální pojistné plnění, tak ten rozdíl pěkně bude cálovat on sám. A to není zas tak velký problém, většina pojistek je do 35 milionů, což třeba na sanaci nějaké uniklé látky nemusí ani zdaleka stačit...

Ale asi ne tak snadno. Jak uz nekdo psal, lide (nekteri) si dokazi dat nestandardni situace do sirsi souvisloti. Priklad sirsi souvislosti: jednou v noci protijedoucimu autu parkrat zablikala svetla. Doslo mi proc, zatimco ridici protijedouciho auta nedoslo, proc blikala svetla mne. Ja zacal brzdit, on trefil asi pateho divocaka v rade.

problem je, ze bezpecnost na cestach zdaleka nezavisi iba od toho ci ty spravis chybu. cesty su plne hlupakov, co niesu schopni adekvatne vyhodnotit ani standardne situacie.

Pojď mi to předvést.

dnesna AI nechape situaciu, takze samozrejme nemoze jazdit spolahlivo. muskov AI autopilot sa uci na chybach a vzdy sa ho snazia naucit riesit iba tu konkretnu chybu/situaciu. to je samozrejme nespravny pristup, aj ked dnes pravdepodobne jediny technicky mozny. pockajme si 10 rokov, umela inteligencia bude na uplne inej urovni a absolutne bezpecne riadenie auta bude pre nu hracka.

jj, clanek o ho*ne

To není žádné hejtování, jen uvedení do reality Za to nikdo nemůže, že existuje spousta technologických nadšenců, kteří mají pocit, že Tesla vymyslela skutečnou inteligenci a že se za pár let budou vozit bez nutnosti řízení. Ani omylem, Tesla sice udělala spousty práce, ale pořád to žádná umělá inteligence není, jen strojové učení, které nedokáže nic, co nemá předem naučeno. Proti tomu člověk dokáže řešit i situace, ve kterých nikdy dříve nebyl, tomu se právě říká inteligence a tu počítače nemají a nikdy mít nebudou. Takže ve finále stejně nakonec "autopilot" Tesly skončí jako takový lepší asistent, ale nikdy nebude moci jezdit sám, bez nonstop dozoru.

Tesla sa nebude trocharit, ked aj ostatne firmy davaju do prevadzky SW urovne beta testu.

Jasně, kdejaký pubertální blbeček dokáže autopilot poslat do nehody. Tak to má opravdu fungovat