Vědci se ptají: Má umělá inteligence zabít vašeho šéfa, nebo rodinu s kočárkem?

Názory k článku

dpcstb  |  14. 08. 2016 19:10  |  Microsoft Windows 7 Firefox 45.0

sefa urcite. toho predsa nema nikto rad. a riskovat ze z toho decka v kociku vyrastie sef? presiel by som oboch a este zacuval

Souhlasím  |  Nesouhlasím  |  Odpovědi (8)Zavřít odpovědi  |  Odpovědět
dolph1888  |  14. 08. 2016 19:13  |  Microsoft Windows 10 Chrome 51.0.2704.79

Já jsem živočich (člověk), když je třeba nabídnu pomocnou ruku, zachráním třeba tonoucího i za cenu ztráty života, jedná se o automatickou reakci. V autě je vše jinak, jako řidič budu mít vždy tendenci, strhnout volant tak, abych se zachránil já, a před tím si mohu filozofovat jak chci. Takže AI musí za každou cenu chránit svého majitele - řidiče a jeho vůz.
Osobní poznámka: K dilematu, priorita je posádka vozu, takže ať je venku situace jakákoli, vždy propočítat srážku tak, aby byla vysoká pravděpodobnost přežití posádky a co nejméně smrtí mimo vůz. Jinému autu, bych se nikdy nesvěřil.

Souhlasím  |  Nesouhlasím  |  Odpovědi (8)Zavřít odpovědi  |  Odpovědět
avatar
14. 08. 2016 19:17 | Microsoft Windows 7 Chrome 52.0.2743.116

Je to dilema, na druhou stranu by se jistě našlo plno strojů, které již dnes při něčí neopatrnosti můžou zabít a pokud neudělá chybu ten stroj, pak je to vina toho, kdo se někam nachomýtl kam neměl apod.

Souhlasím  |  Nesouhlasím  |  Odpovědi (4)Zavřít odpovědi  |  Odpovědět
14. 08. 2016 19:36 | Microsoft Windows 7 Chrome 52.0.2743.116

Prostě se to hezky seřadí podle priorit... Pro společnost by bylo ideální čistě utilitaristické vozidlo, ale to by si nikdo nekoupil, protože by hrozilo, že zabije svoji posádku. Krom toho by se to asi neprosadilo, protože by se muselo zavést, že hodnota života zločince je nižší než nevinného, ale i když vám to přijde jasné, tak dát to do zákonů tak snadné asi nebude.Takže bych to udělal následovně:
1) vždy chránit posádku auta (nutnost aby si ta auta vůbec někdo koupil)
2) vždy obětovat lidi, kteří aktuálně porušili zákon (třeba jdou na červenou)
3) když je oběť nevinných chodců nevyhnutelná, tak nic nedělat (nebude se strhávat volant a pojede se rovně)Přijde mi to jako řešení, které jde v morálních otázkách cestou nejmenšího odporu. Jak už bylo v článku napsáno, ve 3. případě auto prostě udělá BSOD a pojede rovně :D

Souhlasím  |  Nesouhlasím  |  Odpovědi (3)Zavřít odpovědi  |  Odpovědět
Falhar  |  14. 08. 2016 19:56  |  Microsoft Windows 10 Chrome 52.0.2743.116

Podle mě je jen ztráta času a energie polemizovat o takovémto problému. Pokud vozidlo zjistí, že je v takovéto situaci, tak si prostě hodí kostkou.Spíše by se měli snažit aby tato situace nemohla vůbec vzniknout. Podle mě je mnohem větší problém, když auto mohlo této situaci předcházet ale neudělalo to. Nechceme auta která jsou perfektní. Jen ty, které jsou lepší jak člověk.

Souhlasím  |  Nesouhlasím  |  Odpovědi (2)Zavřít odpovědi  |  Odpovědět
14. 08. 2016 20:06 | Microsoft Windows 10 Firefox 48.0

Moc se to řeší. Každá automatika pracuje s pravděpodobností, tedy počítač vyhodnotí pravděpodobnosti jednotlivých variant, seřadí je a rozhodne se pro tu, co mu dává největší šanci.
A žádná situace z těch zmiňovaných nenastane najednou, ale vyvíjí se. Nemůže nastat situace, že auto najednou vidí před sebou přechod plný lidí, zatímco před pár milisekundami tam přechod plný lidí nebyl. A jestliže se situace vyvíjí, automat na ni samozřejmě reaguje průběžně, neřeší tedy žádné dilema.

Souhlasím  |  Nesouhlasím  |  Odpovědi (6)Zavřít odpovědi  |  Odpovědět
vzach  |  14. 08. 2016 20:44  |  Unknown Firefox 47.0

Neměla by umělá inteligence jako první použít včas klakson nebo jiný způsob výstrahy? Aby ti lidé, které by mohla přejet, měli větší šanci reagovat. Třeba by pak AI nemusela rozhodovat, koho přejede. Vybrala by si třeba toho, kdo podle předpokládané reakce na troubení stihne uhnout. Takže by sice jela, jako by ho chtěla zabít, ale nezabila by ho, protože by tam už nebyl, neboť by stihl zareagovat a přemístit se?

Souhlasím  |  Nesouhlasím  |  Odpovědi (10)Zavřít odpovědi  |  Odpovědět
avatar
14. 08. 2016 20:48 | Microsoft Windows 7 Chrome 52.0.2743.116

2vzach:Moc se zaobíráte konkrétní situací. Tady se už počítá se situací kdy jsou rozhodovací algoritmy ve fázi rozhodnutí jestli špatné řešení nebo ještě špatnější a kdy prostě není kam "uhnout".

Souhlasím  |  Nesouhlasím  |  Odpovědi (3)Zavřít odpovědi  |  Odpovědět
Bystroushaak  |  14. 08. 2016 20:54  |  Linux Mozilla 38.9

Oba přece. Co by to bylo za umělou inteligenci, kdyby si měla vybírat, koho zabije? To by se taky ještě mohlo třeba cukat vyhladit lidstvo.

Souhlasím  |  Nesouhlasím  |  Odpovědi (1)Zavřít odpovědi  |  Odpovědět
lubosXL  |  14. 08. 2016 20:54  |  Linux AppleMAC-Safari 5.0

Valka strojů, o tom byl terminátor.

Souhlasím  |  Nesouhlasím  |  Odpovědět
adamcx  |  14. 08. 2016 21:07  |  Microsoft Windows 7 Firefox 48.0

Snadné. Stroj sejme toho kdo porušil platné dopravní předpisy. Pokud mě někdo skočí do silnice a auto nemá kam uhnout tak přejet samozřejme při snaze zastavit.

Souhlasím  |  Nesouhlasím  |  Odpovědi (2)Zavřít odpovědi  |  Odpovědět
Honzicekcz  |  14. 08. 2016 21:11  |  Microsoft Windows 10 Chrome 51.0.2704.79

Moc jsem to tu nečetl, ale už vidím jak x spoluobčanů se baví nad tím jak auto zabije nevinou posádku tím, že tam skupinově bude nabíhat.... takže celé je to totálně k ničemu

Souhlasím  |  Nesouhlasím  |  Odpovědět
frantaN47  |  14. 08. 2016 21:18  |  Linux Firefox 44.0

Různý lidi mají na to různý názory a v dané situaci by se zachovali různě. Někdo otočí auto na střechu kvůli zajícovi. Jiný by klidně sejmul kohokoliv a hlavně chránil sebe a posádku auta. Jiný by si házel kostkou, jiný...
Myslím si, že není možné to naprogramovat obecně. Nechal bych tu možnost naprogramování na majiteli auta. Po prvním nastartování by řidič zodpověděl několik otázek a nastavil by si tak systém podle sebe.
Problém je, že by pak odpovědnost za chování vozidla nebyla na výrobci, ale spíš na majiteli (kromě technických závad).

Souhlasím  |  Nesouhlasím  |  Odpovědi (3)Zavřít odpovědi  |  Odpovědět
alien.cz  |  14. 08. 2016 22:08  |  Macintosh OS X AppleMAC-Safari 5.0

V cele teto teorii budoucnosti "inteligentni" dopravy postradam faktor zodpovednosti.Pokud se jako ridic v krizove situaci jakkoliv rozhodnu, nakonec vzdy nesu zodpovednost za dusledky sveho rozhodnuti pouze ja.Kdo ponese zodpovednost za rozhodnuti AI?Snad nemusim pripominat, ze pokud by existovala nejaka filozofie, ze za rozhodnuti AI bude zodpovedny jeji tvurce, vyvojar, "mamkastatkou", zadna AI nikdy do provozu vpustena nebude. Protoze si pripadne nasledky zadny jeji tvurce na triko nevezme.Cili vizi o plne autonomnich vozidlech na svetovych silnicich vidim z duvodu neresitelnych moralne-lidskych aspektu, jako nerealne scifi.Prave kvuli absenci realneho prijeti zodpovednosti za AI.V tomto ohledu se nemuzu zbavit dojmu, ze se megafirmy snazi o neco, co budou muset skutecne extremne prolobovat proti masove vuli uzivatelu ..... jinak to budou jen vyhozene penize, usili a cas.No ja jsem klidny, za meho zivota tohle sci-fi realne existovat urcite nebude.

Souhlasím  |  Nesouhlasím  |  Odpovědi (8)Zavřít odpovědi  |  Odpovědět
PD  |  14. 08. 2016 22:29  |  Microsoft Windows 7 Firefox 47.0

".....specialisté na etiku, psychologové a filosofové"Skupina žvanilů, která problémy neřeší, ale jenom vytváří. Tyhle naštěstí auta programovat nebudou.Pokud počítač nemá dost času brzdit, pak nemá dost času šmejdit pokolí a uvažovat koho by nejraději zabil.

Souhlasím  |  Nesouhlasím  |  Odpovědi (6)Zavřít odpovědi  |  Odpovědět
avatar
14. 08. 2016 22:51 | Linux Chrome 38.0.2125.102

rand() ?

Souhlasím  |  Nesouhlasím  |  Odpovědět
Libb  |  14. 08. 2016 22:55  |  Microsoft Windows 10 Firefox 48.0

Na ten web jsem se už díval a je to celé sranda. On totiž autopilot by neměl dělat chyby. Tzn. situace s lidmi na přechodu a auto řítící se na ně, by neměla nastat.
Osobně bych asi řešil, kdo udělal chybu, ať si ji odskáče (opět připomínám, pokud se bavíme o autopilotovi, ten nesmí vůbec předpokládat, že by chybu udělal on). Ve druhém kroku bych asi neměnil pruhy (proč zachránit jedny na úkor druhých, kteří jsou mimo moji původní dráhu?)
No a odhad, kdo je manažer, lékař nebo bezdomovec, to snad nějakému autu nesvěříme, ne?

Souhlasím  |  Nesouhlasím  |  Odpovědi (5)Zavřít odpovědi  |  Odpovědět
orgasmic  |  15. 08. 2016 04:16  |  Microsoft Windows 7 Firefox 31.0

Zase teoretické úvahy o ničem.
Proč by z podstaty věci měl někdo umírat u přechodu (město)?
Náraz v max 50km/h (při menší rychlosti samozřejmě, protože brždění).
To už ti "vědci" nedokážou vymyslet nějaký smysluplnější příklad, než takovouto "pyčovinu"?

Souhlasím  |  Nesouhlasím  |  Odpovědět
Nargon  |  15. 08. 2016 08:14  |  Microsoft Windows 10 Chrome 52.0.2743.116

Tak jsem jim trochu zamíchal statistikou. Až se nějaký robot rozhodne podle mě, tak to bude na přechodu masakr :)

Souhlasím  |  Nesouhlasím  |  Odpovědět
15. 08. 2016 08:18 | Microsoft Windows XP Chrome 49.0.2623.112

Navrhl bych semafory pro chodce, který bude snímat pohyb na vozovce. Tudíž pokud pojede auto, vyhodí na přechodu červenou. Pokud přesto chodec půjde na přechod, tak je vcelku jasný jak se zachovat. Šlápnout na brzdu a super počítač vyhodnotí pohyb chodce, tak snad zareaguje v ms kam lehce otočit volant.

Souhlasím  |  Nesouhlasím  |  Odpovědi (1)Zavřít odpovědi  |  Odpovědět
duhovnik  |  15. 08. 2016 08:42  |  Unknown AppleMAC-Safari 5.0

S tymto si vodic z Nice tazku hlavu nerobil. Mohol sa najskor spytat jedneho po druhom ci vedia citovat z korkoranu. Takto si to pretriedi az panbozko s turbanom na hlave v nebicku na odpad a vyvolenych.

Souhlasím  |  Nesouhlasím  |  Odpovědi (2)Zavřít odpovědi  |  Odpovědět
daewoo  |  15. 08. 2016 08:44  |  Microsoft Windows 7 Chrome 50.0.2661.94

Jak stroj pozná, že je někdo zloděj, z*rd, manažer, lékař nebo student a ne třeba dávkař? Kolikrát je za deště nebo chumelenice problém poznat i pohlaví, natož stáří (30? 50? která ještě může mít dítě?)... Černá labuť má ráda i kostýmy, liliputy a medvědí muže.Některé základní údaje (počet obyvatel, výrazné rozdíly ve věku, kočárek, zvíře) by bylo možné rozlišit hned a podle nich se rozhodnout. V nejednoznačných případech má zasáhnout zasáhnout Geiger-Müller. Takhle totiž funguje naše rozhodování v momentě dupnutí na brzdu. Morální dilema je vyřešené.Kupující autonomního auta souhlasí s takovým rozhodováním (Automobilka se tím zbavuje odpovědnosti - další problém vyřešen.) a je si plně vědom následků stejně tak, jako souhlasí s rozhodováním řidiče, který ho právě někam veze (a nebo se ani nemá možnost rozhodovat, jako třeba dítě).Pořád se jedná o lepší rozhodování, než u lidského řidiče, cestující na koupi takového vozu může jen a jen vydělat a strach z popisovaných situací je pokrytecký a hloupý, i když asi nevědomky.

Souhlasím  |  Nesouhlasím  |  Odpovědi (5)Zavřít odpovědi  |  Odpovědět
Hafajs  |  15. 08. 2016 09:57  |  Microsoft Windows 8.1 IE 11.0

Vyuzil bych při rozhodovani systemu informaci z FB. Kdo ma vic "olajkovano" bude zit :D

Souhlasím  |  Nesouhlasím  |  Odpovědi (1)Zavřít odpovědi  |  Odpovědět
lazywriter  |  15. 08. 2016 09:58  |  Linux Firefox 48.0

Upřímně, nevím, co se v tomto případě řeší. Pokud by k této situaci došlo, tak by někdo porušil, alespoň české, dopravní předpisy. Buď by auto jelo nepřiměřenou rychlostí (chyba výrobce autoauta) nebo by chodec skočil pod auto.

Souhlasím  |  Nesouhlasím  |  Odpovědi (3)Zavřít odpovědi  |  Odpovědět
mdgarf  |  15. 08. 2016 09:59  |  Microsoft Windows 10 Chrome 52.0.2743.116

v kazdem pripade vznikne trh (sedy, cerny) ktery se bude zabyvat modifikacemi.
Kdo vic zaplati bude mit oddanejsiho "sluhu".cerna skrinka s logy by nebyla od veci, ale to jde zase proti majiteli

Souhlasím  |  Nesouhlasím  |  Odpovědi (1)Zavřít odpovědi  |  Odpovědět
Tudva  |  15. 08. 2016 09:59  |  Microsoft Windows 7 Firefox 33.0

V prvni rade bych zahodil AI, ktera jede takovym zpusobem, ze nedokaze zastavit pred prechodem.

Souhlasím  |  Nesouhlasím  |  Odpovědi (4)Zavřít odpovědi  |  Odpovědět
Enfonator  |  15. 08. 2016 10:26  |  Microsoft Windows 10 Chrome 52.0.2743.116

Podľa mňa nikomu z nás neprináleží rozhodovať o tom, kto bude žiť a kto nie. Ak sa má už nejaká tragédia stať, nech sa stane. Skôr by som to riešil dodatočne. Ak sa už tragédia stane a a dopadne to tak, že vinník prežije, zatiaľ čo obeť zahynie, dal by som mu trest, na ktorý nezabudne..

Souhlasím  |  Nesouhlasím  |  Odpovědi (2)Zavřít odpovědi  |  Odpovědět
Nechic  |  15. 08. 2016 11:17  |  Microsoft Windows 10 Chrome 52.0.2743.116

Tak prostě musí jezdit pomalu

Souhlasím  |  Nesouhlasím  |  Odpovědi (3)Zavřít odpovědi  |  Odpovědět
5h1nj1  |  15. 08. 2016 11:30  |  Microsoft Windows 7 Firefox 47.0

Ta otazka s tim manazerem je nejaky chytak?
Kdyz se rozhlednu po par takovych vysokych manazerech kolem, tak vetsina z nich je jeden ha*zl vedle druheho, v lepsim pripade jde "jen" o kretena. Takze rozhodne zlikvidovat. To byl doufam vysledek toho pruzkumu?

Souhlasím  |  Nesouhlasím  |  Odpovědi (33)Zavřít odpovědi  |  Odpovědět
15. 08. 2016 11:54 | Microsoft Windows 8 Opera 9.80

To by mne opravdu zajímalo, kolik teoretických altruistů by v reálu překonalo pud sebezáchovy ...

Souhlasím  |  Nesouhlasím  |  Odpovědět
avatar
15. 08. 2016 13:59 | Microsoft Windows 10 Firefox 48.0

To se mi zdá jako uměle vytvořený problém - v reálu se taky člověk asi nebude rozhodovat, do koho to má napálit - má-li tedy na výběr, ale pošle to tam, kam se mu to povede anebo zdá nejlepší řešení. Řešení - mimo zastavěné oblasti autopilot On (když někdo vlítne před auto je to jeho vina a smůla), ve městech a zastavěných oblastech autopilof Off a zodpovědnost přebírá řidič.

Souhlasím  |  Nesouhlasím  |  Odpovědi (2)Zavřít odpovědi  |  Odpovědět
STROX  |  15. 08. 2016 14:22  |  Macintosh OS X Chrome 52.0.2743.82

jako v životě měla by promluvit náhoda :)
if (rnd(1) >= 0.5) { };
else { };

Souhlasím  |  Nesouhlasím  |  Odpovědět
jirkaf77  |  15. 08. 2016 14:59  |  Microsoft Windows 7 Chrome 52.0.2743.116

Delal jsem to nekolikrat, na konci to i ukaze nejcasteji usmrcenou osobu a nejvice usetrenou, nu ale co jsem mel vzdy na 100% je dodrzovani predpisu - kdyz se auto riti na skupinu co jde na cervenou, proc by se melo rozbit o prekazku? Sli na cervenou a nedivali se, jejich chyba.
Pozn: vsimnete si, ze nekdy auto jede prazdne, ne vzdy tam zahyne osadka.
Pozn2: jako socialista jsem se divil, proc by mel mit manazer cenu, ja bych navedl tramway na nej za radostneho zpevu internacionaly.

Souhlasím  |  Nesouhlasím  |  Odpovědět
Anonymizovaný  |  15. 08. 2016 15:06  |  Microsoft Windows 7 Chrome 51.0.2704.103

Když myšlenkový experiment nemá řešení, jedná se zřejmě o demagogii. Celý článek je nějaký pochybný. Snad se toho nedožiju, autonomních aut resp. nejhorší jsou tzv. přechodná období, kdy na silnicích budou stále jezdit rozteklý hipsterjugend myslivci a zároveň autonomní vozy... Takže buď a nebo, ale odhaduju to na ty autonomní vozy, neboť podle všech dnešních vousáčů je jasný, že bílá rasa končí, tudíž nebude umět ovládat auta ani ručně jako doposud. Je totiž čím dál víc degenů, kteří si zákony pletou s buzerací a svobodu s anarchií. A vzhledem k tomu, že na silnicích platí pravidla a zákony, tihle je dodržovat fakt nebudou, protože pro hipstera je přípustná pouze svoboda na úkor druhých

Souhlasím  |  Nesouhlasím  |  Odpovědět
Janke  |  15. 08. 2016 18:50  |  Macintosh OS X AppleMAC-Safari 5.0

Osobně bych upřednostnil život posádky, nebo náhodný mód Je tu ještě jiná věc, která se asi zatím neuplatňuje (možná se pletu) a to je rychlost reakce počitače. Myslím si, že v těchto případech by se měly do aut instalovat a nastavit prvky aktivní bezpečnosti. V současné chvíli se airbagy, automatické utahování pásů atd. aktivují až ve chvíli, kdy nastane krizová situace, ovšem díky rychlosti pc by to šlo ješte o chvíli dřív a to včetně venkovních airbagů na ochranu chodců.

Souhlasím  |  Nesouhlasím  |  Odpovědět
Forrest911  |  16. 08. 2016 23:10  |  Microsoft Windows 7 Firefox 48.0

Co se tyka rozhodnuti "posadka auta vs okoli", je to mnohem jednodussi, nez strasi Kuba v clanku. Auto neudela chyby typu: a) Zamyslel jsem se, prejel jsem na cervenou, prede mnou se "ocitli chodci", b) Jejda, toho cyklistu jsem prehledl/necekal! Ne, auto bude jezdit bezchybne (samozr. pouze s bezchybnymi algoritmy... ale tak nebo tak by si to o sobe melo myslet), tudiz je budou zpusobovat pouze ostatni... tudiz by melo VZDY prednostne chranit svou posadku.
Podle me trivialni... nebo jsem neco prehledl/nepochopil?

Souhlasím  |  Nesouhlasím  |  Odpovědi (1)Zavřít odpovědi  |  Odpovědět
nomohakon  |  11. 08. 2017 11:23  |  Linux Firefox 54.0

Aby neco takoveho nastalo, musi nejdriv selhat nekolik jinych veci, jako "nejedu kam nevidim", atd.

Souhlasím  |  Nesouhlasím  |  Odpovědět
Zasílat názory e-mailem: Zasílat názory Můj názor

Aktuální číslo časopisu Computer

Velký test Wi-Fi mesh

Nejlepší hodinky pro všechny aktivity

Důležité aplikace na cesty

Jak streamovat video na Twitch