Moral machine: Už víme, zdali je lepší zabít psy, sebe nebo matky na přechodu

  • Jak byste se sami vypořádali s tramavajovým dilematem?
  • Vědci před lety spustili globální dotazník
  • Nyní se pochlubili s výsledky

Představte si hypotetickou situaci. Řítíte se nedělní nocí ve svém silném voze, když tu se na horizontu objeví přechod. Právě do něj vstoupil chodec a šouravým krokem se vleče k protějšímu chodníku. Přibrzdíte, jenže v ten okamžik dojde ve vašem automobilu k defektu a téměř neovladatelně se řítí k mostnímu pilíři pár metrů za přechodem.

Tak, stop! Zastavme čas, protože vám chci dát na výběr. Buď neuděláte nic a vůz plnou rychlostí vrazí do železobetonu, přičemž plechy vašeho automobilu se už postarají o to, aby byla šedá plocha s několika graffiti to poslední, co v životě uvidíte, anebo...

Anebo v posledních sekundách před kolizí stočíte v pudu sebezáchovy volant ostře doleva, automobil přeci jen zareaguje, ve smyku se roztočí jako káča z dětství a za chvíli se zastaví v protisměru. Oddechnete si, vždyť jste právě přežili možná tu nejnebezpečnější situaci svého života, když tu letmým pohledem do zpětného zrcátka spatříte bezvládné tělo chodce.

Smyk, který vám zachránil život, zabil nevinného.

Tak, vraťme se zpět – přesně do toho okamžiku několik sekund před havárií, kdy máte poslední možnost volby a víte, jak to celé dopade. Jak byste se rozhodli?

Podobná dilemata na silnici neřešíme, máme totiž pomalý mozek. Ale co počítač?

Při počtu dopravních nehod za pouhý rok je zřejmé, že podobnou situaci už možná mnozí zažili, ačkoliv je jejich vlastní mozek díky své relativní pomalosti podobného dilematu milosrdně ušetřil. Prostě se to stalo. A děje se to v globálním měřítku stále dokola, každý den.

Klepněte pro větší obrázek
Ročenka nehodovosti za rok 2017. Zlepšuje se to, ale veselé čtení to není.

Člověk to neovlivní, co však palubní počítače chytrých automobilů, které za několik desetiletí (buďme realisté) začnou pomalu ovládat města a dálnice po celém světě? Zatímco reakční schopnost člověka za volantem je už při rychlosti 50 km/h krajně omezená, pro počítač s výpočetním výkonem mnoha teraflopsů bude i sekunda dostatečně dlouhá doba, aby dokázal spočítat hned několik možných scénářů a pokusil se zareagovat.

Klepněte pro větší obrázek
Tramvajové dilema (McGeddon, CC-BY-SA 4.0)

Jinými slovy, počítač bude už před střetem vědět, jak to asi dopadne a jaké má možnosti. Bude se jej tedy týkat slavný myšlenkový experiment – tramvajové dilema (trolley problem) –, který jsme si v úvodu nastínili a který ve svém originálu z 60. let pracuje s tramvají, která se řítí k rozdvojce, za kterou jsou na obou kolejích přivázaní lidé a vy můžete vybrat, zdali obětujete jednoho pro záchranu ostatních.

Jenže co když tím jedním budete vy samotní?

Moral Machine

Psychologové, počítačoví vědci i filozofové desítky roků zkoumali, jak bychom se v takových dilematech rozhodovali (a přeneseně tedy i autopilot zítřka), pokud bychom tramvaj vyměnili právě za autonomní vozidlo a koleje za přechod, po kterém přechází třeba stará babička.

Klepněte pro větší obrázek
Obětovat nevinné roztomilé pejsky, nebo příslušníky svého vlastního živočišného druhu?

Experti z MIT pak před dvěma lety spustili svůj Moral Machine – webový dotazník, do kterého se mohl zapojit každý z vás. A jistě i zapojil, psali jsme o něm totiž i my v srpnu 2016.

Klepněte pro větší obrázek
Obětovat se a zachránit chodce, nebo zachránit sebe?

Moral Machine zvesela sbíral data a lidé z celého světa se rozhodovali, zdali by na křižovatce obětovali raději sebe, nebo nevinného chodce, případně jestli by raději rozšmelcovali skupinu roztomilých štěňátek francouzských buldočků cupitajících po zebře na druhou stranu, nebo by srazili skupinku nastávajících matek. A ne, nemyslete si, že je volba v tomto případě zcela jasná, protože smutné psí oči zamávají s lidskou psychikou často více než vlastní živočišný druh.

40 milionů rozhodnutí z celého světa

Během oněch dvou let se do experimentu nakonec zapojily miliony respondentů, kteří dohromady přispěli 40 miliony odpovědí. Jedná se o doposud největší experiment tramvajového dilematu, který má zároveň opravdu celosvětový přesah, protože web navštívili lidé z 233 zemí, čili představitelé nejrůznějších kultur a zvyků.

Nyní se autoři pochlubili dvacetistránkovou studií v časopisu Nature (zpoplatněné PDF), ve které z dat vypíchli několik zajímavých zjištění a hromadu grafů. Pokud se vám nechce utrácet 9 dolarů za vypůjčení článku na dva dny, stručnější sumář toho nejzajímavějšího najdete zdarma na MIT Technology Review.

Klepněte pro větší obrázek
Zachránit spíše mladšího, nebo naopak staršího a zkušenějšího?

Co lze tedy z dat vyčíst? Třeba rozdílný přístup k mládí a stáří. Zatímco v euroatlantickém prostoru respondenti šetřili spíše mladé, v Asii naopak zvítězil tradiční respekt ke stáří.

Obětovat jednotlivce, nebo skupinu?

Neméně zajímavý pohled je i na to, zdali pokaždé vítězí jako menší zlo obětovat méně lidí a zachránit jich tak více, nebo to tak jednoznačné není. Není! Opět platí, že euroatlantické země by na tuto logiku spíše přistoupily, avšak v asijských zemích včetně Číny a Japonska to zdaleka nemusí být nejdůležitější faktor. Vážená osoba může mít podle mnoha respondentů z tohoto regionu vyšší hodnotu než skupina.

Klepněte pro větší obrázek
Má větší hodnotu skupina jednotlivců, nebo třeba jedna vážená osoba? Ani na tom nepanuje globální shoda a přístup se liší dle kultury.

Současný globalizovaný svět tedy smazává kulturní rozdíly jen zdánlivě, čili v Asii a zvláště ve více než miliardové Číně může být v těchto úvahách cena jednotlivce nižší než na západě.

Zabít vlastní posádku, nebo chodce?

Zatímco předchozí dva grafy spolu opravdu korelují, protože jasně vyjadřují určitou kulturní rozdílnost mezi západem a východem, následující graf je konečně trošku jiný. Tentokrát vyjadřuje afinitu vybraných zemí k otázce, zdali by posádka vozu ušetřila spíše chodce, nebo se sama obětovala.

Klepněte pro větší obrázek
Sebeobětování (Japonsko), nebo naopak vlastní záchrana za každou cenu (Čína)

V ochotě sebeobětování tentokrát na plné čáře vítězí Japonsko, zatímco sousední miliardová Čína volí praví opak. Respondenti by raději zabili babičku na přechodě a zachránili sebe samotné a posádku vozu.

Kdybych měl do hry zapojit trošku toho černého humoru a cynizmu, na základě tohoto posledního grafu bych vašim vnoučatům, nebo pravnoučatům za těch 40-50 let doporučoval nákup čínského autonomního vozu, protože touto kulturní optikou bude možná nejbezpečnější (pro ně).

Bude mít čínské auto čínský morální kodex?

Ačkoliv by se to mohlo celé jevit jako laciné filozofování nad životem brouka, ve skutečnosti mohou mít podobné kulturní rozdíly dalekosáhlé následky. Různé úhly pohledu na to, jak by se měl autopilot zachovat v situacích, kdy je třeba se rozhodnout mezi podobnými zly, se totiž skutečně mohou jednou promítnout do logického rozhodovacího stromu firmwaru v palubním počítači vozu, který dosáhne nejvyšší páté, nebo alespoň čtvrté úrovně automobilové autonomie.

Zároveň je jisté, že podobné chování nikdo nedokáže i z těchto důvodů celoplošně standardizovat, poněvadž podobné otázky si neklade ani lidský řidič: v autoškolách se učíme, jak haváriím předcházet, ale u žádného testu pochopitelně nedostanete dopravní situaci bez východiska, kdy se musíte rozhodnout pro jedno ze zel a buď spáchat sebevraždu, nebo v podstatě vědomou vraždu.

Tyto otázky zůstávají v oné šedé zóně, kterou si nikdo nepřipouští, o které však víme, že tam někde je, protože jen v Česku v roce 2017 na silnicích zahynulo 502 osob a to v 103 821 dopravních nehod. Co kdyby však stroj díky svému ohromnému výkonu a chladné-logickému uvažování tuto šedou zónu dokázal překonat? A chceme to vůbec?

Nakonec to tedy možná dopadne tak, že ani stroj nebude mít jasně naprogramovaná pravidla, co má v poslední sekundě udělat. Tím ve hře zůstane přirozený princip neurčitosti, kvůli kterému sice možná někdo ztratí život, ale výrobce vozu nebude čelit žalobám pozůstalých za naprogramované zabití.

Diskuze (148) Další článek: Co ukázalo srovnání 9 levných Androidů. Za rok vyspěly, na mobilu už se nemusíte bát šetřit

Témata článku: Věda, Budoucnost, Automobily, Doprava, Čína, Japonsko, Lidé, Autonomní vůz, Psychika, Psychologie, Sebevražda, Morálka, Sociologie, Živočišný druh, Vybraná země, Poslední záchvěv, Celý svět, Šedá zóna, Podobná otázka, Předchozí graf, Plná čára, Globální měřítko, Počítačový vědec, Nature, Kulturní rozdíl


Určitě si přečtěte

Notebook do 10 000 korun: Co koupit a čemu se raději vyhnout

Notebook do 10 000 korun: Co koupit a čemu se raději vyhnout

** Do deseti tisíc korun lze dnes koupit slušné notebooky ** V nabídce ale převládají zastaralé a pomalé modely ** Poradíme, jak dobře vybrat i s omezeným rozpočtem

David Polesný | 54

Pojďme programovat elektroniku: Kamera pro Arduino i Raspberry Pi, která vidí

Pojďme programovat elektroniku: Kamera pro Arduino i Raspberry Pi, která vidí

** Představte si robotické autíčko s kamerou ** S kamerou, která opravdu vidí věci ** Na trhu je jich několik a my si dnes vyzkoušíme americkou Pixy2

Jakub Čížek | 12

Astronomové objevili daleko za Plutem objekt s extrémní dráhou. Může ukazovat na existenci planety Devět

Astronomové objevili daleko za Plutem objekt s extrémní dráhou. Může ukazovat na existenci planety Devět

** Astronomové objevili daleko za Neptunem těleso 2015 TG387 ** Okolo Slunce se pohybuje po extrémně protáhlé dráze ** Jeho dráha může ukazovat na existenci planety Devět

Petr Kubala | 10

Moral machine: Už víme, zdali je lepší zabít psy, sebe nebo matky na přechodu

Moral machine: Už víme, zdali je lepší zabít psy, sebe nebo matky na přechodu

** Jak byste se sami vypořádali s tramavajovým dilematem? ** Vědci před lety spustili globální dotazník ** Nyní se pochlubili s výsledky

Jakub Čížek | 148

Nový iPhone a další novinky Applu: sledujte, na co se zase budou stát fronty

Nový iPhone a další novinky Applu: sledujte, na co se zase budou stát fronty

** Apple dnes představuje nové produkty v čele s novými iPhony ** Nemusí zůstat jen u telefonů, čekají se i další novinky ** Úvodní přednáška začíná v 19:00 našeho času

David Polesný | 57

Apple ukázal novinky: iPad Pro má překonat notebooky a vrací se Mac mini!

Apple ukázal novinky: iPad Pro má překonat notebooky a vrací se Mac mini!

** Apple v New Yorku představoval počítačové novinky ** iPad Pro prý zatočí s notebooky ** Dočkali jsme se také návratu Mac mini

Jakub Čížek | 81

Google má nové telefony, počítač a domácí displej. Česko je stále mimo

Google má nové telefony, počítač a domácí displej. Česko je stále mimo

** Google dnes představil novinky ** Dočkali jsme se nového telefonu Pixel 3, tabletopočítače a domácího displeje ** Rozšíření Google Assistenta do dalších zemí se bohužel nekoná

David Polesný | 45


Aktuální číslo časopisu Computer

Odhalte skryté funkce Windows 10

Test levných Androidů do 4 000 Kč

Srovnání úsporných minipočítačů

Změřili jsme rychlost 10Gb/s ethernetu