Europoslanci diskutovali o A.I. a robotech. Za jejich rozhodnutí musí být zodpovědný výrobce

Výbor pro právní záležitosti Evropského parlamentu, kterému předsedá český europoslanec Pavel Svoboda, dnes dopoledne uspořádal veřejné slyšení na téma robotiky a umělé inteligence. Tříhodinový seminář si můžete přehrát ze záznamu a to včetně českého simultánního překladu.

Poslanci a právní specialisté diskutovali především o zodpovědnosti nastupující generace autonomních strojů. Tu již dnes upravuje hromada unijních předpisů včetně třicet let staré direktivy 85/374/EHS (PDF), která praví, že za výrobní chybu produktu je zodpovědný ten, kdo jej smontoval.

Jenže praxe je ve skutečnosti mnohem složitější a soudy musejí často dlouhé roky zjišťovat, který z článků dlouhého výrobního řetězce je skutečně zodpovědný za dílčí chybu – vždyť takový vůz sice dohromady složí automobilka, nicméně se skládá z ohromného množství komponent dodavatelů.

Za rozhodnutí robota bude vždy zodpovědný výrobce

V případě autonomních vozů tedy vyvstává otázka, jestli bude za případnou chybu v řízení zodpovědný konečný výrobce – automobilka, anebo dodavatel softwaru, palubního počítače, senzorů a tak dále.

Jeden z návrhů, který na semináři zazněl, proto praví, aby byl za ještě mnohem složitější autonomní vůz ve vztahu ke spotřebiteli zodpovědný výhradně konečný výrobce, a finanční zátěž případného odškodnění pak vyřeší nové formy pojištění, které budou rozložené mezi všechny zákazníky do pořizovací ceny vozu – tedy přeneseně jakési robotické povinné ručení.

Klepněte pro větší obrázek
Druhá generace zcela autonomního vozu Googlu, která již necelý rok brázdí kalifornské silnice. Zákony to zatím neumožňují, počítá se ale s tím, že by nepotřebovalo ani volant.

Samozřejmě ale nepůjde pouze o vozy. Mnohem dříve se v praxi setkáme s prvky umělé inteligence a přenášení rozhodovacích procesů třeba v medicíně. Výpočty v cloudu, strojové učení a neuronové sítě by se mohly v příštích letech začít podílet na určení diagnózy a volbě nejvhodnějších léčebných postupů, protože si podobně jako Watson od IBM prostudují všechny dostupné lékařské studie. Pokud ovšem takový program nakonec udělá chybu, která spočívá v jeho naprogramovaném rozhodovacím procesu, bude opět zodpovědný jeho autor.

Co se zlou inteligencí?

Na semináři zazněl i dotaz z britské právní komory, kdo bude zodpovědný v případě, pakliže umělá inteligence dosáhne takové autonomie, že již nebude jen rychlým automatem, ale provede nějaké opravdu unikátní a škodlivé rozhodnutí – provede trestný čin.

  • 01:30 – Výrobní chyba v programu Skynet v praxi

Odpověď byla i v tomto případě stejná. Jelikož není umělá inteligence bytost (de jure fyzická osoba), ale pouze výrobek, zodpovědnost opět padá na toho, který ji umožnil sebezdokonalování a tedy zcela autonomní rozhodnutí.

Až na nás tedy s trochou nadsázky za sto let zaútočí Skynet, k soudu půjde jeho výrobce…

Evropská robotická agentura

Jak už jsem ale napsal výše, Evropa se bude muset nejprve vypořádat s reálnějšími hrozbami příštích několika desítek let. Spíše než opravdu autonomní a nadále spíše hypotetická umělá inteligence nás totiž bude ohrožovat třeba polofunkční automobilový asistent.

Evropští poslanci tedy navrhují, aby se EU pomalu začala zaobírat pokročilou robotickou standardizací, která zatím prakticky neexistuje a každý autonomní robot je vlastně jen akademický experiment. Ruku v ruce s tím by měla Evropa připravit jednotný legislativní rámec pro testování robotů.

Toto vše by mohla zastřešit třeba nová (a zatím zcela hypotetická) Evropská robotická agentura – European Robotics Agency, která by se postarala o robotické normy, homologaci a tedy to, abyste v autonomním voze neskončili v lepším případě v kupce hnoje a aby chytrá lednička schválně nezatajila prošlou játrovku.

Témata článku: Právo, Bezpečnost, Umělá inteligence, Roboti, Strojové učení, Europa, Lex, Room, Terminator

9 komentářů

Nejnovější komentáře

  • Michael ŠOUREK 6. 6. 2016 22:41:45
    Úplně zbytečné jednání a následně úplně zbytečná diskuse na základě...
  • TrueStory 22. 4. 2016 0:14:41
    Když už je řeč o robotech, tak jsem jediný, komu připadají "tři zákony...
  • Petr Galansky 21. 4. 2016 23:38:17
    Europoslanci kolektivne pusobi jakoba banda "hnupu". Cetl jsem clanek kde...
Určitě si přečtěte

Původní Starcraft: Brood War je nyní zdarma. Konec práce! Jde se pařit

Původní Starcraft: Brood War je nyní zdarma. Konec práce! Jde se pařit

** Legendární hra Starcraft je nyní k dispozici zdarma ** Chystá se i nová remasterovaná verze s hezčí grafikou

19.  4.  2017 | Jakub Čížek | 25

Brno otevřelo největší českou dílnu pro bastlíře. Kladívka, vrtačky, 3D tiskárny, laserové řezačky. Je tu vše

Brno otevřelo největší českou dílnu pro bastlíře. Kladívka, vrtačky, 3D tiskárny, laserové řezačky. Je tu vše

** Máte nápad, ale chybí vám stroje a pořádná dílna? ** Chcete postavit ptačí budku, nebo krabičku pro Arduino? ** Brno otevřelo svůj FabLab – laboratoř pro bastlíře

19.  4.  2017 | Jakub Čížek | 31

Operační systém běžným počítačům nedal Bill Gates, ale Gary Kildall

Operační systém běžným počítačům nedal Bill Gates, ale Gary Kildall

** Gary Kildall pochopil, že levné výpočetní čipy mohou posloužit jako univerzální počítače pro všechny ** Připravil pro ně proto první operační systém ** Později mu systém vyfoukl Microsoft a nazval ho MS DOS

Včera | Pavel Tronner | 19


Aktuální číslo časopisu Computer

První test AMD Ryzen

Velké testy: 22 powerbank a 8 bezdrátových setů

Radíme s koupí Wi-Fi routeru

Co dokáží inteligentní domy?