Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

  • Už je to tady, lidé přestávají chápat počítače
  • Systémy neuronových sítí začínají pracovat tak, že ani jejich tvůrci přesně neví, co se uvnitř děje
  • Do budoucna to může být závažný problém
Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

Ačkoliv je vývoj neuronových sítí a strojového učení stále na svém počátku, vědci už nyní pomalu začínají mluvit o fenoménu black box. Stručně řečeno, přestáváme rozumět, co se sakra uvnitř toho strojového učení vlastně děje.

Neuronové sítě jsou tedy skutečně jakousi černou skříňkou, které předáme vstupní studijní data a základní konfiguraci, nicméně samotný proces učení je u rozsáhlejších neuronových sítí už natolik komplikovaný, že je z pohledu člověka naprosto netransparentní. Vnitřní strukturu si již laicky řečeno náhodně skládá sama síť a nikdo se v ní pořádně nevyzná.

Tomuto tématu bylo věnováno hned několik studií a rozsáhlých článků – z poslední doby pak třeba studie (PDF) trojice výzkumníků z MIT publikovaná v katalogu Arxiv.

Klepněte pro větší obrázek
Základní princip mnohovrstevnaté neuronové sítě, kde se každá vrstva softwarových neuronů podílí na trošku jiné analýze vstupních dat. Jako celek pak vytváří pravděpodobnostní model a tedy ono vědění, které může aplikovat na jiná vstupní data.

Na problém černé skříňky upozorňuje i výzkumník Nils Lenke z britské společnosti Nuance, který pro ZDNet varoval před budoucností, kdy na jednu stranu předáme umělé inteligenci hromadu kompetencí, už se ale nevyznáme v tom, jak vlastně funguje, a tedy nebudeme moci předvídat některé kritické situace, které mohou nastat, protože i neuronové sítě občas udělají chybu. Ne že ne.

Pokud udělá chybu strojové učení klasifikující obrázky a fotku s husou identifikuje jako snímek s krávou, o nic nejde, pokud by však podobný přehmat provedla umělá inteligence v dopravě, zdravotnictví aj., následky by mohly být fatální.

„Procesor s umělou inteligencí“ není žádná magie. Tedy až na novinku od Intelu...

Výzkumníci na A.I. se tedy budou muset tomuto problému dále věnovat a kdo ví, třeba hloubkový audit fungování umělé inteligence dokáže provést zase jen další umělá inteligence – jakýsi strojový psycholog, který díky brutální síle křemíku dokáže odhalit potenciální slabiny vnitřních algoritmů neuronové sítě, což by nedokázal ani ten sebelepší specialista z masa a kostí.

Diskuze (114) Další článek: ČR může přijít o 14 miliard na rychlý internet, projekt je prý špatně připraven

Témata článku: Software, Věda, Technologie, Bezpečnost, Umělá inteligence, Strojové učení, Neuronová síť, Inteligence, Síť, Doprava budoucnosti, Strojový, Problém, Vrstva, Vstupní data, Výzkumník, Sonet, ZDNet, VLA, Britská společnost, Nil, Rozsáhlý audit, Pravděpodobnostní model, Hloubkový audit, Černá skříňka, Rozsáhlý článek


Určitě si přečtěte

Apple: naše mapy budou nejlepší na světě. Tajně jsme na nich pracovali několik let

Apple: naše mapy budou nejlepší na světě. Tajně jsme na nich pracovali několik let

** Apple odhalil své plány na zcela nové mapy ** Několik let pracuje na nových mapách, které by měly předběhnout konkurenci ** Objeví se s příchodem iOS 12 pro vybrané státy

Karel Javůrek | 50

Sex a rozmnožování při mezihvězdné cestě: Kolik lidí je potřeba pro let k Proximě Centauri?

Sex a rozmnožování při mezihvězdné cestě: Kolik lidí je potřeba pro let k Proximě Centauri?

** Vědci spočítali, jak velká by musela být posádka pro vícegenerační let k nejbližší hvězdné soustavě ** Proxima Centauri se nachází 4,3 světelných let od nás ** Za současných technologií bychom k ní letěli 6300 let

Petr Kubala | 57

Alan Turing: Genius, který matematicky stvořil počítač

Alan Turing: Genius, který matematicky stvořil počítač

Řešením matematického problému se dostal k modelu teoretického stroje, který nese jeho jméno a je základem logiky univerzálních počítačů.

Pavel Tronner | 57

Takhle zemřete, když asteroid dopadne na vaše město

Takhle zemřete, když asteroid dopadne na vaše město

** Jak by to dopadlo, kdyby na světovou metropoli či do nedalekého moře dopadl velký asteroid? ** Simulovali to odborníci z University of Southampton ** Výsledky jsou velmi zajímavé

Petr Kubala | 32

15 věcí, které umí Windows 10, ale možná o nich vůbec nevíte

15 věcí, které umí Windows 10, ale možná o nich vůbec nevíte

** Systém Windows 10 umí spoustu užitečných drobností ** O mnoha praktických funkcích pravděpodobně ani nevíte ** Poznejte užitečné tipy, které se vám mohou hodit každý den

Vladislav Kluska | 36


Aktuální číslo časopisu Computer

Velký test 18 bezdrátových sluchátek

Vše o přechodu na DVB-T2

Procesory AMD opět porážejí Intel

7 NVMe M.2 SSD v přímém souboji