Europoslanci diskutovali o A.I. a robotech. Za jejich rozhodnutí musí být zodpovědný výrobce

Europoslanci diskutovali o A.I. a robotech. Za jejich rozhodnutí musí být zodpovědný výrobce

Výbor pro právní záležitosti Evropského parlamentu, kterému předsedá český europoslanec Pavel Svoboda, dnes dopoledne uspořádal veřejné slyšení na téma robotiky a umělé inteligence. Tříhodinový seminář si můžete přehrát ze záznamu a to včetně českého simultánního překladu.

Poslanci a právní specialisté diskutovali především o zodpovědnosti nastupující generace autonomních strojů. Tu již dnes upravuje hromada unijních předpisů včetně třicet let staré direktivy 85/374/EHS (PDF), která praví, že za výrobní chybu produktu je zodpovědný ten, kdo jej smontoval.

Jenže praxe je ve skutečnosti mnohem složitější a soudy musejí často dlouhé roky zjišťovat, který z článků dlouhého výrobního řetězce je skutečně zodpovědný za dílčí chybu – vždyť takový vůz sice dohromady složí automobilka, nicméně se skládá z ohromného množství komponent dodavatelů.

Za rozhodnutí robota bude vždy zodpovědný výrobce

V případě autonomních vozů tedy vyvstává otázka, jestli bude za případnou chybu v řízení zodpovědný konečný výrobce – automobilka, anebo dodavatel softwaru, palubního počítače, senzorů a tak dále.

Jeden z návrhů, který na semináři zazněl, proto praví, aby byl za ještě mnohem složitější autonomní vůz ve vztahu ke spotřebiteli zodpovědný výhradně konečný výrobce, a finanční zátěž případného odškodnění pak vyřeší nové formy pojištění, které budou rozložené mezi všechny zákazníky do pořizovací ceny vozu – tedy přeneseně jakési robotické povinné ručení.

Klepněte pro větší obrázek
Druhá generace zcela autonomního vozu Googlu, která již necelý rok brázdí kalifornské silnice. Zákony to zatím neumožňují, počítá se ale s tím, že by nepotřebovalo ani volant.

Samozřejmě ale nepůjde pouze o vozy. Mnohem dříve se v praxi setkáme s prvky umělé inteligence a přenášení rozhodovacích procesů třeba v medicíně. Výpočty v cloudu, strojové učení a neuronové sítě by se mohly v příštích letech začít podílet na určení diagnózy a volbě nejvhodnějších léčebných postupů, protože si podobně jako Watson od IBM prostudují všechny dostupné lékařské studie. Pokud ovšem takový program nakonec udělá chybu, která spočívá v jeho naprogramovaném rozhodovacím procesu, bude opět zodpovědný jeho autor.

Co se zlou inteligencí?

Na semináři zazněl i dotaz z britské právní komory, kdo bude zodpovědný v případě, pakliže umělá inteligence dosáhne takové autonomie, že již nebude jen rychlým automatem, ale provede nějaké opravdu unikátní a škodlivé rozhodnutí – provede trestný čin.

  • 01:30 – Výrobní chyba v programu Skynet v praxi

Odpověď byla i v tomto případě stejná. Jelikož není umělá inteligence bytost (de jure fyzická osoba), ale pouze výrobek, zodpovědnost opět padá na toho, který ji umožnil sebezdokonalování a tedy zcela autonomní rozhodnutí.

Až na nás tedy s trochou nadsázky za sto let zaútočí Skynet, k soudu půjde jeho výrobce…

Evropská robotická agentura

Jak už jsem ale napsal výše, Evropa se bude muset nejprve vypořádat s reálnějšími hrozbami příštích několika desítek let. Spíše než opravdu autonomní a nadále spíše hypotetická umělá inteligence nás totiž bude ohrožovat třeba polofunkční automobilový asistent.

Evropští poslanci tedy navrhují, aby se EU pomalu začala zaobírat pokročilou robotickou standardizací, která zatím prakticky neexistuje a každý autonomní robot je vlastně jen akademický experiment. Ruku v ruce s tím by měla Evropa připravit jednotný legislativní rámec pro testování robotů.

Toto vše by mohla zastřešit třeba nová (a zatím zcela hypotetická) Evropská robotická agentura – European Robotics Agency, která by se postarala o robotické normy, homologaci a tedy to, abyste v autonomním voze neskončili v lepším případě v kupce hnoje a aby chytrá lednička schválně nezatajila prošlou játrovku.

Témata článku: Právo, Bezpečnost, Umělá inteligence, Roboti, Strojové učení, Europa, Lex, Room, Terminator, Dílčí dodavatel

9 komentářů

Nejnovější komentáře

  • Michael ŠOUREK 6. 6. 2016 22:41:45
    Úplně zbytečné jednání a následně úplně zbytečná diskuse na základě...
  • TrueStory 22. 4. 2016 0:14:41
    Když už je řeč o robotech, tak jsem jediný, komu připadají "tři zákony...
  • Petr Galansky 21. 4. 2016 23:38:17
    Europoslanci kolektivne pusobi jakoba banda "hnupu". Cetl jsem clanek kde...
Určitě si přečtěte

Pojďme programovat elektroniku: Postavíme si titěrnou Wi-Fi meteostanici s lepším teploměrem než Netatmo

Pojďme programovat elektroniku: Postavíme si titěrnou Wi-Fi meteostanici s lepším teploměrem než Netatmo

** Dnes se podíváme na maličkou Wi-Fi destičku Wemos D1 mini ** A připojíme k ní barometrický a teplotní shield ** Poběží na ní web a nabídne i JSON API

18.  6.  2017 | Jakub Čížek | 28

Jak vybrat monitor k počítači: nenechte se zlákat nepodstatnými parametry

Jak vybrat monitor k počítači: nenechte se zlákat nepodstatnými parametry

** Na jaké parametry se zaměřit a kde vás výrobci chtějí nachytat ** Monitory se stále více specifikují pro konkrétní určení ** Náročný hráč nebo profesionální grafik mají různé požadavky

20.  6.  2017 | Tomáš Holčík | 31

Dlouhodobý test HTC Vive: co vám recenze o virtuální realitě neřeknou

Dlouhodobý test HTC Vive: co vám recenze o virtuální realitě neřeknou

** Ani hry se sebelepší grafikou vás nevtáhnou tolik, jako ve virtuální realitě ** Pro sledování filmů není VR ani zdaleka ideální ** I první generace je skvělá, stále však působí jako prototyp

20.  6.  2017 | Stanislav Janů | 22

Jak unikají informace o nových iPhonech? Třeba podprsenkami čínských pracovnic

Jak unikají informace o nových iPhonech? Třeba podprsenkami čínských pracovnic

** Na černém trhu mohou zaměstnanci továren za kradené součástky inkasovat částku ve výši ročního platu ** Velké množství informací je vyneseno i z centrály Applu ** Díly jsou pašovány v botách, podprsenkách i odpadem

21.  6.  2017 | Stanislav Janů | 24


Aktuální číslo časopisu Computer

Bojujeme proti Fake News

Dva velké testy: fotoaparáty a NASy

Co musíte vědět o změně evropského roamingu

Radíme s výběrem základní desky