Představte si hypotetickou situaci. Řítíte se nedělní nocí ve svém silném voze, když tu se na horizontu objeví přechod. Právě do něj vstoupil chodec a šouravým krokem se vleče k protějšímu chodníku. Přibrzdíte, jenže v ten okamžik dojde ve vašem automobilu k defektu a téměř neovladatelně se řítí k mostnímu pilíři pár metrů za přechodem.
Tak, stop! Zastavme čas, protože vám chci dát na výběr. Buď neuděláte nic a vůz plnou rychlostí vrazí do železobetonu, přičemž plechy vašeho automobilu se už postarají o to, aby byla šedá plocha s několika graffiti to poslední, co v životě uvidíte, anebo...
Anebo v posledních sekundách před kolizí stočíte v pudu sebezáchovy volant ostře doleva, automobil přeci jen zareaguje, ve smyku se roztočí jako káča z dětství a za chvíli se zastaví v protisměru. Oddechnete si, vždyť jste právě přežili možná tu nejnebezpečnější situaci svého života, když tu letmým pohledem do zpětného zrcátka spatříte bezvládné tělo chodce.
Smyk, který vám zachránil život, zabil nevinného.
Tak, vraťme se zpět – přesně do toho okamžiku několik sekund před havárií, kdy máte poslední možnost volby a víte, jak to celé dopade. Jak byste se rozhodli?
Podobná dilemata na silnici neřešíme, máme totiž pomalý mozek. Ale co počítač?
Při počtu dopravních nehod za pouhý rok je zřejmé, že podobnou situaci už možná mnozí zažili, ačkoliv je jejich vlastní mozek díky své relativní pomalosti podobného dilematu milosrdně ušetřil. Prostě se to stalo. A děje se to v globálním měřítku stále dokola, každý den.
Ročenka nehodovosti za rok 2017. Zlepšuje se to, ale veselé čtení to není.
Člověk to neovlivní, co však palubní počítače chytrých automobilů, které za několik desetiletí (buďme realisté) začnou pomalu ovládat města a dálnice po celém světě? Zatímco reakční schopnost člověka za volantem je už při rychlosti 50 km/h krajně omezená, pro počítač s výpočetním výkonem mnoha teraflopsů bude i sekunda dostatečně dlouhá doba, aby dokázal spočítat hned několik možných scénářů a pokusil se zareagovat.
Jinými slovy, počítač bude už před střetem vědět, jak to asi dopadne a jaké má možnosti. Bude se jej tedy týkat slavný myšlenkový experiment – tramvajové dilema (trolley problem) –, který jsme si v úvodu nastínili a který ve svém originálu z 60. let pracuje s tramvají, která se řítí k rozdvojce, za kterou jsou na obou kolejích přivázaní lidé a vy můžete vybrat, zdali obětujete jednoho pro záchranu ostatních.
Jenže co když tím jedním budete vy samotní?
Moral Machine
Psychologové, počítačoví vědci i filozofové desítky roků zkoumali, jak bychom se v takových dilematech rozhodovali (a přeneseně tedy i autopilot zítřka), pokud bychom tramvaj vyměnili právě za autonomní vozidlo a koleje za přechod, po kterém přechází třeba stará babička.
Obětovat nevinné roztomilé pejsky, nebo příslušníky svého vlastního živočišného druhu?
Experti z MIT pak před dvěma lety spustili svůj Moral Machine – webový dotazník, do kterého se mohl zapojit každý z vás. A jistě i zapojil, psali jsme o něm totiž i my v srpnu 2016.
Obětovat se a zachránit chodce, nebo zachránit sebe?
Moral Machine zvesela sbíral data a lidé z celého světa se rozhodovali, zdali by na křižovatce obětovali raději sebe, nebo nevinného chodce, případně jestli by raději rozšmelcovali skupinu roztomilých štěňátek francouzských buldočků cupitajících po zebře na druhou stranu, nebo by srazili skupinku nastávajících matek. A ne, nemyslete si, že je volba v tomto případě zcela jasná, protože smutné psí oči zamávají s lidskou psychikou často více než vlastní živočišný druh.
40 milionů rozhodnutí z celého světa
Během oněch dvou let se do experimentu nakonec zapojily miliony respondentů, kteří dohromady přispěli 40 miliony odpovědí. Jedná se o doposud největší experiment tramvajového dilematu, který má zároveň opravdu celosvětový přesah, protože web navštívili lidé z 233 zemí, čili představitelé nejrůznějších kultur a zvyků.
Nyní se autoři pochlubili dvacetistránkovou studií v časopisu Nature (zpoplatněné PDF), ve které z dat vypíchli několik zajímavých zjištění a hromadu grafů. Pokud se vám nechce utrácet 9 dolarů za vypůjčení článku na dva dny, stručnější sumář toho nejzajímavějšího najdete zdarma na MIT Technology Review.
Zachránit spíše mladšího, nebo naopak staršího a zkušenějšího?
Co lze tedy z dat vyčíst? Třeba rozdílný přístup k mládí a stáří. Zatímco v euroatlantickém prostoru respondenti šetřili spíše mladé, v Asii naopak zvítězil tradiční respekt ke stáří.
Obětovat jednotlivce, nebo skupinu?
Neméně zajímavý pohled je i na to, zdali pokaždé vítězí jako menší zlo obětovat méně lidí a zachránit jich tak více, nebo to tak jednoznačné není. Není! Opět platí, že euroatlantické země by na tuto logiku spíše přistoupily, avšak v asijských zemích včetně Číny a Japonska to zdaleka nemusí být nejdůležitější faktor. Vážená osoba může mít podle mnoha respondentů z tohoto regionu vyšší hodnotu než skupina.
Má větší hodnotu skupina jednotlivců, nebo třeba jedna vážená osoba? Ani na tom nepanuje globální shoda a přístup se liší dle kultury.
Současný globalizovaný svět tedy smazává kulturní rozdíly jen zdánlivě, čili v Asii a zvláště ve více než miliardové Číně může být v těchto úvahách cena jednotlivce nižší než na západě.
Zabít vlastní posádku, nebo chodce?
Zatímco předchozí dva grafy spolu opravdu korelují, protože jasně vyjadřují určitou kulturní rozdílnost mezi západem a východem, následující graf je konečně trošku jiný. Tentokrát vyjadřuje afinitu vybraných zemí k otázce, zdali by posádka vozu ušetřila spíše chodce, nebo se sama obětovala.
Sebeobětování (Japonsko), nebo naopak vlastní záchrana za každou cenu (Čína)
V ochotě sebeobětování tentokrát na plné čáře vítězí Japonsko, zatímco sousední miliardová Čína volí praví opak. Respondenti by raději zabili babičku na přechodě a zachránili sebe samotné a posádku vozu.
Kdybych měl do hry zapojit trošku toho černého humoru a cynizmu, na základě tohoto posledního grafu bych vašim vnoučatům, nebo pravnoučatům za těch 40-50 let doporučoval nákup čínského autonomního vozu, protože touto kulturní optikou bude možná nejbezpečnější (pro ně).
Bude mít čínské auto čínský morální kodex?
Ačkoliv by se to mohlo celé jevit jako laciné filozofování nad životem brouka, ve skutečnosti mohou mít podobné kulturní rozdíly dalekosáhlé následky. Různé úhly pohledu na to, jak by se měl autopilot zachovat v situacích, kdy je třeba se rozhodnout mezi podobnými zly, se totiž skutečně mohou jednou promítnout do logického rozhodovacího stromu firmwaru v palubním počítači vozu, který dosáhne nejvyšší páté, nebo alespoň čtvrté úrovně automobilové autonomie.
Zároveň je jisté, že podobné chování nikdo nedokáže i z těchto důvodů celoplošně standardizovat, poněvadž podobné otázky si neklade ani lidský řidič: v autoškolách se učíme, jak haváriím předcházet, ale u žádného testu pochopitelně nedostanete dopravní situaci bez východiska, kdy se musíte rozhodnout pro jedno ze zel a buď spáchat sebevraždu, nebo v podstatě vědomou vraždu.
Tyto otázky zůstávají v oné šedé zóně, kterou si nikdo nepřipouští, o které však víme, že tam někde je, protože jen v Česku v roce 2017 na silnicích zahynulo 502 osob a to v 103 821 dopravních nehod. Co kdyby však stroj díky svému ohromnému výkonu a chladné-logickému uvažování tuto šedou zónu dokázal překonat? A chceme to vůbec?
Nakonec to tedy možná dopadne tak, že ani stroj nebude mít jasně naprogramovaná pravidla, co má v poslední sekundě udělat. Tím ve hře zůstane přirozený princip neurčitosti, kvůli kterému sice možná někdo ztratí život, ale výrobce vozu nebude čelit žalobám pozůstalých za naprogramované zabití.
