„Systémy používající pokročilou umělou inteligenci mohou znamenat závažné riziko pro společnost a lidstvo,“ začíná otevřený dopis od Future of Life Institute, který žádá alespoň na šest měsíců pozastavit experimenty a vývoj systémů výkonnějších, než je nedávno zveřejněný GPT-4. Pokud tak neučiní samotná vývojová studia, měly by zakročit vlády.
„Pokročilá umělá inteligence by mohla představovat zásadní změnu v historii života na Zemi a měla by být plánována a řízena s odpovídající péčí,“ čímž jsou myšlené zásady Asilomar AI Principles. Podle signatářů se tak neděje, AI laboratoře se v posledních měsících nekontrolovaně předhánějí ve vypouštění stále výkonnějších „digitálních mozků“, které nikdo nedokáže pochopit, předvídat, ani kontrolovat.
Text pak směřuje k těžko měřitelným, ale o to důležitějším hodnotám. Nepravda, která pravidelně proniká do výstupů AI. Chceme automatizovat práci, která doteď lidi naplňovala? „Měli bychom riskovat ztrátu kontroly nad naší civilizací? Taková rozhodnutí nelze svěřovat nevoleným technickým vůdcům,“ pokračuje výzva.
Požadovaný půlrok má sloužit ke stanovení pravidel a nezávislého dozoru. Lidstvo by mělo získat jistotu, že následky nasazení AI budou pozitivní a rizika zvládnutelná. Další vývoj se musí zaměřit na přesnost, bezpečnost a transparentnost, musí být jasné, kdo bude zodpovědný za škody, které napáchá AI.
Text chvílemi působí dystopicky, ale uzavírá pozitivně: „Lidstvo se ve spolupráci s AI může těšit na světlou budoucnost. Poté, co se nám podařilo vytvořit výkonné AI systémy, si nyní můžeme užívat „AI léto“, kdy budeme sklízet plody nové technologie, benefity pro všechny. Společnost už si v minulosti dala pauzu v případě jiných technologií s potenciálně katastrofálními dopady a můžeme tak učinit i tentokrát,“ uzavírá dopis v evidentní (nikoliv výslovené) narážce na štěpení atomového jádra a některé další technologie.
Signatáři od Muska po Česko
Nejviditelnější jména podepsaná pod výzvou jsou Elon Musk, Steve Wozniak a Yuval Noah Harari. Musk je v tomto přístupu konzistentní, obdobné myšlenky při různých příležitostech opakuje už řadu let. Izraelský historik a autor několika knižních bestsellerů o vývoji lidstva Juval Noach Harari popsal svůj postoj v článku v New York Times.
Podepsáni jsou „bezejmenní“ studenti, ale i akademici, zakladatelé technologických firem a nechybí ani Češi: například spoluzakladatel startupu Rossum Petr Baudiš nebo Petr Hudeček z Microsoftu.
Ne všichni však vidí budoucí soužití AI a lidstva jako problém. Bill Gates v rozsáhlém příspěvku z minulého týdne probírá, jak novou technologii co nejlépe využít pro dobro lidstva. Problémy vidí spíše technické a možnosti, že se AI vymkne kontrole, věnuje jen relativně krátkou zmínku:
