Umělá inteligence | USA | Atomová bomba

USA to myslí s bezpečností vážně. Chtějí uzákonit, aby AI neměla přístup k jaderným zbraním

Poměrně unikátní debata se v posledních dnech odehrává v USA. Tamní polici dostali obavy, že rozmach umělé inteligence je tak velký, že by algoritmy časem mohly ovládnout i takové činnosti, jako je odpalování jaderných zbraní. Chtějí proto výslovně zákonem zakázat, aby AI mohla s jadernými zbraněmi operovat. 

V americké Národní obranné strategii, klíčovém dokumentu, který udává směr, jakým se chce americká armáda vydávat, už nyní stojí, že kritických rozhodnutí, mezi které patří odpalování jaderných zbraní, se musí účastnit člověk. Jen živá osoba může prezidenta o potřebě odpalu informovat a jen živá osoba může akt odpalu na základě rozhodnutí prezidenta učinit.

Jenže toto nařízení není právně závazné, jde spíše o interní doporučení, které si stanovilo ministerstvo obrany. Kdyby se někdo uvnitř resortu rozhodl, že do procesu chce umělou inteligence zařadit, soud ho za to potrestat nemůže. Nikdo se k tomu podle veřejně dostupných informací nechystá, ale hypotetické riziko existuje. 

Právě proto se skupina amerických politiků rozhodla, že účast umělé inteligence v odpalování jaderných zbraní zakáže zákonem. Americká armáda je známá tím, že nejnovějším technologiím jde kupředu, což v kombinaci se současným rozmachem generativní AI vyvolalo obavy jak mezi republikány, tak demokraty a legislativu vytvořili společně.

Navrhovaný zákon se jmenuje Blokace jaderného odpalu a má spadat pod Akt o autonomní umělé inteligenci. Výslovně nařizuje, aby se procesu odpalu jaderných zbraní účastnily živé osoby, tedy stanovuje to samé, co současná interní pravidla ministerstva.

Cílem podle navrhovatelů je „ochránit budoucí generace před potenciálně devastujícími následky AI“ a „zajistit, že jen lidé budou mít moc ovládat a odpalovat jaderné zbraně, nikoliv roboti“. Zákon ještě musí projít celým legislativním procesem, než nejde v platnost. 

Nejen politici mají obavy, že bude AI zneužita a že pro ni ještě nejsou stanovena dostatečná pravidla. Naposledy před neprobádanými důsledky rozmachu umělé inteligence varoval jeden z jejích průkopníků Geoffrey Hinton, který tento týden oznámil odchod z Googlu.

Diskuze (13) Další článek: Karel zvládl papírový autoatlas, a teď miluje Waze. O navigaci, mapách a intuici (Podcast Živě)

Témata článku: , , , , , , , , , , , , , ,