Obrázky s vodoznakem i více novinářský ChatGPT. OpenAI se připravuje na volební horor | Ilustrace: AI Midjourney

Ilustrace: AI Midjourney

Obrázky s vodoznakem i více novinářský ChatGPT. OpenAI se připravuje na volební horor

Svět v roce 2024 projde velkým testem. V Americe se budou konat prezidentské volby, které poprvé proběhnou v situaci, kdy tu máme široce dostupné AI nástroje. Po zkušenostech z minulých voleb lze předpokládat, že pokud nebudou stanovena jasná pravidla, prezidentské klání za oceánem se promění v souboj deepfake videí. Nebo i něčeho mnohem horšího. OpenAI se proto zařeklo, že se pokusí nastavit takový systém, který zneužití jeho nástrojů nedovolí. 

Už máme za námi několik voleb, ve kterých se dezinformace více či méně vytvořené AI objevovaly. Stačí si vzpomenout na prezidentské volby v Česku a upravené video s Petrem Pavlem, za kterými podle české kontrarozvědky stáli Rusové. Jenže to bylo před rokem, od té doby nástroje pokročily a navíc toto video stálo pouze na okraji. Nakonec o vítězi rozhodla klasická kampaň vedená klasickými metodami.

To se ale nedá říct o Argentině. Tam se konaly prezidentské volby loni v listopadu. Po jejich skončení média plnila titulky jako „první AI volby”, protože kampaň byla doslova zahlcená materiály vytvořenými umělou inteligencí. Oba hlavní kandidáti, respektive jejich týmy, vytvářely obrázky a videa pomocí AI jako na běžícím pásu. Dokonce i na billboardy je vylepily. Tu pro vlastní propagaci, tu pro diskreditaci protivníka. Nakonec vyhrál pravicový ekonom Javier Milei, přezdívaný „argentinský Trump” kvůli jeho velmi radikálnímu programu. 

OpenAI vyzdvihuje společné úsilí

Nyní se dostáváme do situace, kdy se o slovo hlásí pravý Trump. V Americe odstartovaly primárky, volební kampaň před listopadovým termínem je v plném proudu. A zatímco Česko nebo Argentina jsou ve světovém kontextu malé, nepříliš důležité země, průběh a výsledek voleb v USA může zásadně ovlivnit dění na celé planetě. 

Technologické firmy si to podle svých slov uvědomují a od debaklu v roce 2016, kdy byly sociální sítě během prezidentského klání mezi Donaldem Trumpem a Hillary Clintonovou zahlcené dezinformacemi, pravidelně před každými volbami zveřejňují opatření, kterými tomu chtějí zabránit. Letos poprvé se k nim přidalo OpenAI, protože právě jeho nástroje (ale nejen jeho) mohou volby proměnit ve velmi špinavou hru. 

OpenAI svůj postoj zveřejnilo na svém blogu. Hned úvodem podotýká, že ochrana integrity voleb má být společné úsilí všech stran. Firma jako taková může dle svého vyjádření maximálně dát určité pojistky do svých technologií, ale to dezinformace z politického prostředí zcela nevymaže.

DALL-E 3 začne využívat C2PA

OpenAI přiznává, že zatím hledá způsoby, jak před zneužitím efektivně ochránit ChatGPT a jeho API. Jsou to příliš neprobádané vody. Proto říká, že dokud nepřijde na nic lepšího, zakáže lidem vytvářet aplikace pro účely politické kampaně a lobbingu. Zároveň aplikace nebudou smět odrazovat lidi od účasti ve volbách a dezinterpretovat průběh voleb. Je také zakázána tvorba chatbotů, které budou tvářit jako konkrétní reální lidé nebo vládní instituce. 

ChatGPT má navíc začít klást důraz na zobrazování zdrojů informací a uživatelé dostanou přístup ke zpravodajským zprávám v reálném čase. 

Celé jedno téma jsou obrázky. OpenAI slibuje, že v první polovině tohoto roku implementuje do DALL-E 3 ochranu C2PA, takže u všech obrázků vytvořených tímto nástrojem bude možné vysledovat, že jde o produkt generativní umělé inteligence. Dá se to popsat jako neviditelný vodoznak. Ruku v ruce s tím chystá nový nástroj, který obrázky vytvořené pomocí DALL-E odhalí. 

Naše interní testování ukázalo slibné první výsledky, a to i v případech, kdy byly snímky podrobeny běžným typům úprav,” popisuje OpenAI s tím, že tento nástroj brzy dá k dispozici vybraným výzkumníkům a novinářům. 

Musk má strach ze zaujatosti

V souhrnu to jako převratné kladivo na volební dezinformace nezní, byť OpenAI otevřeně přiznává, že to je pouze začátek. Ovšem žádný gigant, ani Meta či Google zatím nepřišli na skutečně efektivní řešení. Ozývají se také hlasy, jestli je vůbec správné cesty tyto hledat, protože to může potenciálně vést ke znevýhodňování jedné nebo druhé strany. 

Toho se bojí například Elon Musk, který obavy vyjádřil na své síti X pod příspěvkem OpenAI. „Prosím, ujistěte se, že minimalizujete politickou zaujatost,” napsal. Sám razí přístup příspěvky nehledě na jejich charakter spíše neodstraňovat. Například nálož dezinformací o válce mezi Izraelem a Hamásem ze sítě X odstranil až po výtkách Evropské unie, že porušuje evropské regulace. 

Regulace je ve vztahu k volbám horkým tématem i v USA, kde federální volební komise právě posuzuje, jestli se zákon zakazující „podvodné zobrazování kandidátů” bude vztahovat i na materiály generované AI. Někteří američtí politici v Kongresu dokonce podle televize CNN navrhují novou legislativu, která by celostátně zakázala klamavé použití AI ve všech politických kampaních. 

Určitě si přečtěte

Články odjinud