Otevřený dopis na obranu proti umělé inteligenci

Elon Musk nebo Stephen Hawking už podepsali otevřený dopis, který má za cíl upozornit na nebezpečí budoucí umělé inteligence a nutnou ochranu lidstva.

S rychlým postupem technologického vývoje roste i výpočetní výkon, který postupně nahrazuje a rozšiřuje náš vlastní, jež nám poskytuje náš organický mozek.

Programy už nejsou jen jednoduché, které dělají přesně to, co jim člověk nastaví, ale se strojovým učením a umělými neuronovými sítěmi se už programy učí sami a podle toho se rozhodují. Forma rozpoznávání vzorů pro detekci koček na obrázku či rychlé učení k expertnímu hraní jednoduchých her je tak teprve zábavný a užitečný začátek. Věci se ale mohou vymknout kontrole.

Elon Musk a Stephen Hawking: na umělou inteligenci musíme dávat pozor

Asi všichni známe technologickou budoucnost z vědeckofantastických filmů a současný vývoj naznačuje, že by reálný vývoj mohl vypadat velmi podobně. Toho se bojí i významné osobnosti, jejichž slova lze určitě brát poměrně vážně.

Stephen Hawking už poměrně dlouho varuje před umělou inteligencí, která by mohla ukončit lidstvo tak jak, ho známe dnes. Důvodem je právě exponenciální nárůst inteligence, kterého není lidský mozek schopný. Mozek jako organická struktura se evolučně vyvíjí opravdu velmi pomalu, zatímco tempo umělé inteligence stoupá s výkonem čipů a zároveň dochází k řadě optimalizací.

Hawking připomíná, že neomezené umělé inteligence zvládnou dosáhnout úrovně, kdy se budou vylepšovat bez lidského zásahu. To je jeden z důvodů, proč by mohlo dojít k tak rychlému vývoji, že ho nebudeme schopni ani chápat.

Klepněte pro větší obrázek
Stephen Hawking v rozhovoru pro BBC

Dle jeho slov „Je lidstvo limitované pomalou biologickou evolucí a protože nedokáže konkurovat, bude nahrazeno“. Poměrně silná slova, ale ve stejném duchu na umělou inteligenci upozorňuje i Elon Musk.

Podle Muska je umělá inteligence ještě větší nebezpečí, než atomová válka a budoucí souboj mezi lidmi a stroji je velmi pravděpodobný. Umělá inteligence je tak podle něj největším existenčním nebezpečím, kterému v současnosti čelíme.

Klepněte pro větší obrázek
Elon Musk také vyjádřil obavy nad rozvojem umělé inteligence a navrhuje určitou formu regulace a dohledu

rozhovoru na MIT upozorňuje, že je potřeba určitá forma regulace a dohled na rozvojem a formami umělé inteligence po celém světě.

Otevřený dopis proti všemocné umělé inteligenci

Nezisková organizace The Future of Life Institute, kterou založil spoluzakladatel Twitteru Jaan Tallinn, zveřejnila otevřený dopis s prioritami pro vývoj umělé inteligence.

V otevřeného dopisu a dokumentu jsou zmiňované oblasti, které jsou ve spojení s využitím umělou inteligencí obzvláště kritické – například vozidla a zbraňové systémy. Podle návrhu by si tyto systémy měly i do budoucna zachovat lidský dohled a kontrolu.

Klepněte pro větší obrázek
Otevřený dopis už obsahuje poměrně velký seznam podpisů lidí i z oblasti vývoje umělé inteligence

Taková představa sice zní logicky, na druhou stranu asi všichni víme, jak funguje sociální hackování, kterým lze zmást i zkušeného člověka k tomu, aby udělal, co potřebujete. A pro pokročilou umělou inteligence by takový trik byl řešitelný problém.

V podrobném dokumentu o prioritách (PDF) je také zmíněno, že by měly být vytvořené kontrolovatelné systémy umělé inteligence, které budou mít pouze omezené možnosti působnosti. Největším nebezpečím je totiž právě nekontrolovatelné propojení v jednu obří superinteligenci, která bude mít takřka neomezené možnosti a nebudeme ji moci jakkoli ovládat.

Dobro vs. zlo

Otevřený dopis už podepsalo i mnoho vědců z oblasti umělé inteligence, takže by se měly varování a návrhy priorit a dohledu snad postupně zapracovat. Otázka ale je, jestli to k něčemu bude a pouze to neoddálí nevyhnutelné.

I když totiž budeme předpokládat scénář, že umělá inteligence nezvlčí sama a bude nám věrně sloužit, určitě budou existovat skupiny, které ji budou chtít využít pro vlastní „zlé“ účely. Typické přirovnání se nabízí se zbraněmi a teroristy. Vždy budou existovat skupiny, které bude chtít z jakéhokoli důvodu škodit a s moderními nástroji a vycvičenou umělou inteligenci budou moci způsobit mnohem větší škody, než nějakým střílením z vlastních zbraní.

 

Existuje příběh o vědci, který sestrojil inteligentní počítač. První otázka, na kterou se zeptal - „Existuje Bůh?“

A počítač odpověděl - „Už ano.“ a záblesk zasáhl napájecí zásuvku, takže už ho nešlo vypnout.

Stephen Hawking

 

Lze to aktuálně vidět třeba na útoku na Sony Pictures, kde došlo k obrovské škodě, byť pouze peněžní. Problém ale nastane, až půjde o životy lidí. Proti „zlé“ umělé inteligenci budeme muset nasadit „dobrou“ umělou inteligenci, protože sami to už nezvládneme a kybernetické války zasahující reálný svět tak možná pomalu odstartují.

Diskuze (47) Další článek: Windows 10: The Next Chapter začne 21. ledna v 18:00

Témata článku: Technologie, Umělá inteligence, Bezpečnost, Stephen Hawking, Demon, Otevřený dopis, Dopis, Nezisková organizace, Elon, První otázka, Future of Life, Hawking, Řešitelný problém, Lidský neuron, Vědeckofantastický film, Lidský dohled, Malá destička, Rychlé učení, Inteligence, Pro, Elon Musk, Summon, Lidský mozek, Největší nebezpečí, Umělý neuron



Bude to o prsa. Facebook a Instagram pořád neví, kdy jsou zobrazené bradavky porno

Bude to o prsa. Facebook a Instagram pořád neví, kdy jsou zobrazené bradavky porno

**Meta má zjednodušit pravidla a být ke všem spravedlivá **Facebook s Instagram věnují samostatný odstavec bradavkám **Pravidla ale neřeší nebinární, transsexuální a intersexuální osoby

Petr Urban
InstagramFacebookSociální sítě
Spousta řidičů v Česku riskuje pokutu kvůli umístění držáku mobilního telefonu. Zákon hovoří jasně

Spousta řidičů v Česku riskuje pokutu kvůli umístění držáku mobilního telefonu. Zákon hovoří jasně

** Kam s telefonem v autě, které nemá palubní počítač? ** Variant držáků je celá řada, ale každý má svá specifika ** Není možné jej umístit, kam se vám zlíbí

AutoRevue.cz
LegislativaPro řidičePříslušenství
Nový hit. Tahle appka vám udělá profilovku jako od pouličního ilustrátora

Nový hit. Tahle appka vám udělá profilovku jako od pouličního ilustrátora

** Aplikace NewProfilePic se na Androidu stala hitem ** Můžete si v ní vytvořit profesionálně vypadající profilovky ** Pozor ale na agresivní cenovou politiku za Pro verzi

Martin Chroust
FotografieUmělá inteligenceMobilní aplikace
Google není jen vyhledávač: 15 užitečných funkcí, o kterých možná ani nevíte

Google není jen vyhledávač: 15 užitečných funkcí, o kterých možná ani nevíte

** Google umí kromě vyhledávání i spoustu dalších věcí ** Vybrali jsme více než 15 užitečných funkcí a schopností ** Stačí zadat do vyhledávače ta správná klíčová slova

Karel Kilián
TipyVyhledávačeGoogle
Za WhatsApp se bude platit! Za předplatné dostanete funkci, která je u konkurence zadarmo

Za WhatsApp se bude platit! Za předplatné dostanete funkci, která je u konkurence zadarmo

** Bylo to jen otázkou času ** Už i WhatsApp nabízí prémiové předplatné ** Za poplatek dostanete funkci, která je u konkurence zadarmo

Martin Chroust
předplatnéWhatsAppMobilní aplikace
Návod, jak dostat maximum z Peněženky Google

Návod, jak dostat maximum z Peněženky Google

Služba Google Wallet (Peněženka Google) schlamstla před několika měsíci platební aplikaci Google Pay. Díky tomu se původní platforma rozrostla o další funkce. Je zde však i prostor pro zlepšení.

Jan Spěšný
Vědci zkoumali přesnost měření stavby těla u hodinek od Samsungu. Výsledky všechny překvapily

Vědci zkoumali přesnost měření stavby těla u hodinek od Samsungu. Výsledky všechny překvapily

** Chytré hodinky běžně bereme jako informativní měřidla ** Jak si však stojí ve srovnání s profesionálními měřiči ** Při měření stavby těla se na hodinky můžete spolehnout

Martin Chroust
Galaxy Watch4Měření
Facebook má nejspíš vaše telefonní číslo, i když jste mu ho nikdy nedali. Tímto tajným nástrojem ho můžete smazat

Facebook má nejspíš vaše telefonní číslo, i když jste mu ho nikdy nedali. Tímto tajným nástrojem ho můžete smazat

**Meta poskytuje nástroj na vymazání telefonních čísel a e-mailových adres z Facebooku a Instagramu **V minulosti Mark Zuckebrg popřel, že by Facebook vytvářel stínové profily **Metě teď můžete sebrat klíčové iddentifikátory, pořád o vás ale nejspíš ví mnoho dalšího

Petr Urban
MetaSledováníSociální sítě
Chce zatopit iPadům. OnePlus Pad je tabletová prvotina značky a má rovnou ty nejvyšší ambice

Chce zatopit iPadům. OnePlus Pad je tabletová prvotina značky a má rovnou ty nejvyšší ambice

** OnePlus - to už nejsou jen telefony, ale nově i tablety ** OnePlus Pad je prvotinou s displejem, který má poměr stran 7:5 ** Výkon je velmi slušný, nechybí ani obří operační paměť či stylus

Martin Chroust
Android 13Tablety
Máte rádi malé telefony? Pak si oblíbíte tohoto třípalcového drobečka, který není větší než platební karta

Máte rádi malé telefony? Pak si oblíbíte tohoto třípalcového drobečka, který není větší než platební karta

** Dnešní telefony se předhánějí v tom, který z nich bude větší ** Malé telefony na trhu skoro vyhynuly... ** Čínská značka si připravila telefon do dlaně s třípalcovým displejem

Martin Chroust
InfraportKompaktní velikostSmartphony