Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

  • Už je to tady, lidé přestávají chápat počítače
  • Systémy neuronových sítí začínají pracovat tak, že ani jejich tvůrci přesně neví, co se uvnitř děje
  • Do budoucna to může být závažný problém
Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

Ačkoliv je vývoj neuronových sítí a strojového učení stále na svém počátku, vědci už nyní pomalu začínají mluvit o fenoménu black box. Stručně řečeno, přestáváme rozumět, co se sakra uvnitř toho strojového učení vlastně děje.

Neuronové sítě jsou tedy skutečně jakousi černou skříňkou, které předáme vstupní studijní data a základní konfiguraci, nicméně samotný proces učení je u rozsáhlejších neuronových sítí už natolik komplikovaný, že je z pohledu člověka naprosto netransparentní. Vnitřní strukturu si již laicky řečeno náhodně skládá sama síť a nikdo se v ní pořádně nevyzná.

Tomuto tématu bylo věnováno hned několik studií a rozsáhlých článků – z poslední doby pak třeba studie (PDF) trojice výzkumníků z MIT publikovaná v katalogu Arxiv.

Klepněte pro větší obrázek
Základní princip mnohovrstevnaté neuronové sítě, kde se každá vrstva softwarových neuronů podílí na trošku jiné analýze vstupních dat. Jako celek pak vytváří pravděpodobnostní model a tedy ono vědění, které může aplikovat na jiná vstupní data.

Na problém černé skříňky upozorňuje i výzkumník Nils Lenke z britské společnosti Nuance, který pro ZDNet varoval před budoucností, kdy na jednu stranu předáme umělé inteligenci hromadu kompetencí, už se ale nevyznáme v tom, jak vlastně funguje, a tedy nebudeme moci předvídat některé kritické situace, které mohou nastat, protože i neuronové sítě občas udělají chybu. Ne že ne.

Pokud udělá chybu strojové učení klasifikující obrázky a fotku s husou identifikuje jako snímek s krávou, o nic nejde, pokud by však podobný přehmat provedla umělá inteligence v dopravě, zdravotnictví aj., následky by mohly být fatální.

„Procesor s umělou inteligencí“ není žádná magie. Tedy až na novinku od Intelu...

Výzkumníci na A.I. se tedy budou muset tomuto problému dále věnovat a kdo ví, třeba hloubkový audit fungování umělé inteligence dokáže provést zase jen další umělá inteligence – jakýsi strojový psycholog, který díky brutální síle křemíku dokáže odhalit potenciální slabiny vnitřních algoritmů neuronové sítě, což by nedokázal ani ten sebelepší specialista z masa a kostí.

Témata článku: Software, Věda, Technologie, Umělá inteligence, Bezpečnost, Strojové učení, Neuronová síť, Hloubkový audit, Síť, Černá skříňka, Britská společnost, Brutální síla, Nuance, VLA, Inteligence, Studijní data, Vnitřní struktura, Základní konfigurace, Poslední doba, Výzkumník, Vrstva, Strojový, ZDNet, Vstupní data, Rozsáhlý audit

Určitě si přečtěte

Tesla chce změnit nákladní dopravu. Její elektrický náklaďák má ohromující parametry

Tesla chce změnit nákladní dopravu. Její elektrický náklaďák má ohromující parametry

** Tesla představila elektrický kamion ** Má obdivuhodný výkon i dojezd ** Prodávat by se měl už za dva roky

17.  11.  2017 | Vojtěch Malý | 158

30 počítačových brzd, které vám zpomalí Windows

30 počítačových brzd, které vám zpomalí Windows

Na webu najdete hromadu rad, jak zrychlit počítač a Windows. My jsme na to šli opačně a naopak jsme hledali činnosti, které ho nejvíce zpomalují. Toto je třicítka těch základních.

12.  11.  2017 | Jakub Čížek | 90

Elektronika, která nepotřebuje kabel ani baterii. Živí se rádiovým šumem

Elektronika, která nepotřebuje kabel ani baterii. Živí se rádiovým šumem

** Každá elektrická krabička má konektor pro napájení nebo baterii ** Jenže pozor, jednou by to tak nemuselo být ** Drobná elektronika se může živit rádiovými vlnami

14.  11.  2017 | Jakub Čížek | 15

Nejlepší notebooky do 10 tisíc, které si teď můžete koupit

Nejlepší notebooky do 10 tisíc, které si teď můžete koupit

** I pod hranicí desíti tisíc korun existují dobře použitelné notebooky ** Mohou plnit roli pracovního stroje i zařízení pro zábavu ** Nejlevnější použitelný notebook koupíte za pět a půl tisíce

16.  11.  2017 | Stanislav Janů | 52

Do 20 let nebude nikdo vlastnit auta, říká zkušený šéf několika automobilek

Do 20 let nebude nikdo vlastnit auta, říká zkušený šéf několika automobilek

** Bývalý šéf a expert z několika velkých automobilek se vyjádřil k budoucnosti tohoto průmyslu ** Do 20 let „nikdo“ nebude vlastnit auta ** Veškerá doprava bude řešená pomocí velkých logistických platforem

15.  11.  2017 | Karel Javůrek | 74


Aktuální číslo časopisu Computer

Otestovali jsme 5 HDR 4K televizorů

Jak natáčet video zrcadlovkou

Vytvořte si chytrou domácnost

Radíme s koupí počítačového zdroje