Umělá inteligence | Bezpečnost | Neuronová síť

Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

  • Už je to tady, lidé přestávají chápat počítače
  • Systémy neuronových sítí začínají pracovat tak, že ani jejich tvůrci přesně neví, co se uvnitř děje
  • Do budoucna to může být závažný problém
Umělá inteligence je sice v plenkách, už teď ale přestáváme rozumět, jak vlastně funguje. To je problém

Ačkoliv je vývoj neuronových sítí a strojového učení stále na svém počátku, vědci už nyní pomalu začínají mluvit o fenoménu black box. Stručně řečeno, přestáváme rozumět, co se sakra uvnitř toho strojového učení vlastně děje.

Neuronové sítě jsou tedy skutečně jakousi černou skříňkou, které předáme vstupní studijní data a základní konfiguraci, nicméně samotný proces učení je u rozsáhlejších neuronových sítí už natolik komplikovaný, že je z pohledu člověka naprosto netransparentní. Vnitřní strukturu si již laicky řečeno náhodně skládá sama síť a nikdo se v ní pořádně nevyzná.

Tomuto tématu bylo věnováno hned několik studií a rozsáhlých článků – z poslední doby pak třeba studie (PDF) trojice výzkumníků z MIT publikovaná v katalogu Arxiv.

Klepněte pro větší obrázek
Základní princip mnohovrstevnaté neuronové sítě, kde se každá vrstva softwarových neuronů podílí na trošku jiné analýze vstupních dat. Jako celek pak vytváří pravděpodobnostní model a tedy ono vědění, které může aplikovat na jiná vstupní data.

Na problém černé skříňky upozorňuje i výzkumník Nils Lenke z britské společnosti Nuance, který pro ZDNet varoval před budoucností, kdy na jednu stranu předáme umělé inteligenci hromadu kompetencí, už se ale nevyznáme v tom, jak vlastně funguje, a tedy nebudeme moci předvídat některé kritické situace, které mohou nastat, protože i neuronové sítě občas udělají chybu. Ne že ne.

Pokud udělá chybu strojové učení klasifikující obrázky a fotku s husou identifikuje jako snímek s krávou, o nic nejde, pokud by však podobný přehmat provedla umělá inteligence v dopravě, zdravotnictví aj., následky by mohly být fatální.

„Procesor s umělou inteligencí“ není žádná magie. Tedy až na novinku od Intelu...

Výzkumníci na A.I. se tedy budou muset tomuto problému dále věnovat a kdo ví, třeba hloubkový audit fungování umělé inteligence dokáže provést zase jen další umělá inteligence – jakýsi strojový psycholog, který díky brutální síle křemíku dokáže odhalit potenciální slabiny vnitřních algoritmů neuronové sítě, což by nedokázal ani ten sebelepší specialista z masa a kostí.

Diskuze (114) Další článek: ČR může přijít o 14 miliard na rychlý internet, projekt je prý špatně připraven

Témata článku: Technologie, Software, Umělá inteligence, Věda, Bezpečnost, Strojové učení, Neuronová síť, Fun, Základní princip, Problém, Pravděpodobnostní model, Nil, Rozum, Vnitřní struktura, Strojový, Kritická situace, Studijní data, PDF, Jak, Černé skříňky, Hloubkový audit, Sonet, Nuance, Přehmat, Vrstva, Software na Heureka.cz



Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

** Sex manželských párů jen při zvláštních příležitostech. ** Ložnice ovládnou sexuální roboti s umělou inteligencí. ** I to je jeden ze závěrů Mezinárodní robotické konference.

Filip KůželJiří Liebreich
RobotiSexUmělá inteligence
Jak zrcadlit obrazovku mobilu a počítače do televize

Jak zrcadlit obrazovku mobilu a počítače do televize

Ať už se chcete pochlubit fotkami z dovolené na velké obrazovce, nebo si přehrát video uložené na disku počítače, neobejdete se bez zrcadlení obrazovky. Ve výchozím stavu jej podporuje Windows i Android.

Stanislav Janů
NávodyTelevizeWindows
Jak poznat, že máte možná hacknutý telefon? Toto je devět symptomů, které můžete pozorovat

Jak poznat, že máte možná hacknutý telefon? Toto je devět symptomů, které můžete pozorovat

** Jak poznat, že je váš smartphone hacknutý? ** Hledejte známky po nestandardním chování telefonu ** Stačí když telefon vydrží méně nebo topí i v klidovém režimu...

Martin Chroust
Jak...Malware
15 praktických tipů a triků pro Mapy.cz, které možná neznáte

15 praktických tipů a triků pro Mapy.cz, které možná neznáte

** Mapy.cz neslouží jen k zobrazení podkladů a plánování tras ** Nabízejí celou řadu dalších praktických funkcí a možností ** Vybrali jsme 15 tipů a triků, o kterých možná nevíte

Karel Kilián
Mapy.czMapyTipy
Testujeme Samsung Galaxy Z Fold4. Není to revoluce, ale spíš odstraňování neduhů třetí generace

Testujeme Samsung Galaxy Z Fold4. Není to revoluce, ale spíš odstraňování neduhů třetí generace

** Do redakce nám dorazil skládací Galaxy Z Fold4 ** Změn není tolik, ale zato jsou smysluplné ** Telefon nám dorazil v šedozelené barevné kombinaci

Martin Chroust
Skládací konstrukcePreview