Aktualizováno 2.2. 2023: Proces složitého schvalování Aktu o umělé inteligneci se opět posunul o další kousíček dál. V praxi je už fakticky hotový a teď mu dali zelenou zástupci jednotlivých členských zemí EU.
Během února znění aktu adoptují patřičné výbory Evropského parlamentu a finální hlasování v plénu EP se očekává v polovině dubna. Podstatné je ale to, že se všechny strany loni dohodly na všech připomínkách, následující kroky by už proto měly být pouze formalitou.
Evropský Akt o umělé inteligenci je první regulace svého druhu na světě. Jeho znění v posledních letech prošlo všemi možnými orgány EU a pomalu se blíží do finále. Před pár dny se klíčoví hráči zavřeli za dveřmi, čekal je totiž tzv. trialog.
Jako když se volí nový papež
Ve schvalovacím procesu každého nového unijního nařízení na něj přijde řada ve chvílích, kdy se Rada EU (státy) nedokáže domluvit s europoslanci, a tak se jejich představitelé společně s Evropskou komisí zavřou v zasedačce s dostatečně velkým kávovarem a celá trojka (proto trialog) nevyleze, dokud nevyřeší všechny vzájemné námitky. Skoro jako když se volí nový papež.
Dohodli jsme se na finální podobě Aktu o umělé inteligenci, píše na Twitteru komisař pro jednotný trh Thierry Breton:
Přesně k tomu došlo v závěru minulého týdne a teď se už na akt vrhnou právníci a během několika příštích týdnů vypilují finální text se všemi dohodnutými kompromisy. V druhé polovině tohoto desetiletí začne měnit pravidla hry v Evropě.
Když trialog, tak i tři různé tiskovky:
První návrh spatřil světlo světa v roce 2021
První podobu návrhu regulace AI na starém kontinentu připravila Evropská komise už na jaře 2021 a celý dokument o 105 stranách včetně tehdejší důvodové zprávy v češtině najdete zde.
První znění Aktu o umělé inteligenci pochází z jara 2021. V mezidobí jej projednal Evropský parlament a před pár dny se tři klíčové orgány EU dohodly na všech připomínkách
Během posledních tří let procházel dokument složitým schvalovacím procesem, ve kterém by se nevyznal ani Gemini Ultra, trialog ale každopádně vyřešil některé přetrvávající spory, jenž souvisejí i s tím, kam se umělá inteligence posunula v roce 2023.
Regulace AI na úrovní ChatGPT a dalších
Řeč je zejména o současné vlně nejrůznějších univerzálních chatbotů, kteří v bruselské terminologii spadají do kolonky GPAI (general-purporse AI, ale nezaměňovat s univerzální umělou inteligencí AGI).
Mezi GPAI proto patří jak ChatGPT a Google Bard, tak třeba Microsoft Bing Chat/Copilot a Claude. A samozřejmě i jejich velké jazykové modely dostupné skrze API a nejrůznější specializované podnikové aplikace.
ChatGPT je příkladem GPAI, která bude taktéž předmětem regulace
Pokud budete chtít napříště provozovat v zemích EU podobnou GPAI, budete se muset podřídit hromadě nových podmínek v čele s předložením technické dokumentace a zprávy o tom, na jakých datech se váš model vlastně učil a jestli to nebylo v rozporu s autorskými právy.
Ti nejpokročilejší a nejpopulárnější chatboti současnosti by už ale mohli spadnout i do kolonky high-impact GPAI. V takovém případě se jich budou týkat ještě přísnější podmínky.
Jejich provozovatelé budou muset Evropské komisi podávat bezpečnostní reporty, podrobnější technickou dokumentaci nebo třeba zprávy o energetické náročnosti vlastního provozu.
Vysoce rizikové systémy
Pokud se bude takový systém zaměřovat na některé kritické oblasti chodu země, nebo bude mít širší dopad na společnost, svobody, rovnost a další principy, pak mluvíme o vysoce rizikových systémech, jejichž hrubý výčet najdete už v původním návrhu z roku 2021 v příloze 3.
Vysoce rizikové systémy v původním návrhu z roku 2021
Jedná se třeba o systémy nasazené v kritické infrastruktuře (doprava, energetika), vzdělávání, zdravotnictví, bankovnictví a tak dále. Výčet i definice jsou relativně vágní, protože praktické nasazení AI nás teprve čeká a ruku na srdce, v závěru roku 2023 nemá nikdo ani potuchy o tom, k čemu, kde a jak budeme používat umělou inteligenci třeba v roce 2030. Možná se prosadí zcela nové a zatím netušené směry, o kterých dnes ještě nevíme.
V každém případě, vysoce rizikových systémů se týká zdaleka nejsilnější regulace, jistý schvalovací proces před ostrým nasazením a hromada provozních podmínek. Nebudete jej moci spustit jen tak – budete na něj muset v Evropě získat razítko.
Takový systém bude muset zároveň podléhat neustálému lidskému dohledu, záznamu aktivity nebo podmínkám zabezpečení. Co to přesně bude znamenat v praxi, ukáže až čas.
Zakázaná umělá inteligence v EU
Akt o umělé inteligenci nakonec i některé umělé inteligence na půdě EU zcela zakáže. Jejich výčet najdete v původním dokumentu hned v úvodu (Hlava II), ale v průběhu let došlo k úpravám, takže některé technologie z ranku detekce osob by měly dostat výjimku při použití státními orgány (vyšetřování závažné trestné činnosti atp.).
Zakázané techniky AI v originálním návrhu z roku 2021
Mezi zakázané systémy a postupy spojené s AI patří třeba sociální skóring obyvatelstva, biometrická identifikace (zde zmíněná výjimka), ale třeba i hromadné stahování fotografií osob z veřejného webu za účelem jejich strojového rozpoznávání – na černé listině by se tak nejspíše ocitla třeba technologie Clearview AI.
Na seznamu zakázaných praktik nakonec nechybí ani detektory chování a emocí ve školách a na pracovištích nebo relativně vágně definované AI systémy, které námi budou jakkoliv manipulovat.
To dnes svým způsobem a nepřímo provádějí i řadící algoritmy většiny sociálních sítí a na jejich základě se pak půlka republiky pohádá třeba na Facebooku, aniž by původně chtěla.
Pokuta ve výši 7 % z globálního ročního obratu
Všechny tyto úkoly bude koordinovat nový úřad AI Office, který bude spadat pod Evropskou komisi, a AI Board složený ze zástupců členských zemí. AI Office si sestaví vlastní expertní panel z řad výzkumníků v oblasti umělé inteligence. Ten pak bude kanceláři radit s praktickou implementací regulace na základě aktuálního vývoje okolo AI, který je prostě extrémně rychlý a živý.
Kdo se v Evropě novým pravidlům nepodřídí, bude ho čekat tučná pokuta dle závažnosti přestupku. V případě zakázané AI může dosáhnout 7 % ročního celosvětového obratu v předchozím roce.
Za nedodržení dílčích předpisů pak hrozí pokuta ve výši 3 % a 1,5 % v případě poskytnutí nesprávných informací.
Ještě dalších pár let čekání
Pokud Brusel zkraje příštího roku připraví finální text vzešlý z nedávného trialogu, který je kompromisem mezi tím, co chtěl Evropský parlament a co jednotlivé státy reprezentované Radou, a pokud toto znění později všechny strany definitivně odsouhlasí, trh bude mít poté ještě celé dva roky na to, aby se připravil.
Akt o umělé inteligenci proto začne evropskou scénu naplno ovlivňovat a měnit opravdu nejdříve až v druhé polovině tohoto desetiletí. Představitelé Evropské unie ve skrytu duše jistě doufají, že se tou dobou pohne regulace i v USA a že bude co nejpodobnější – ideálně inspirovaná právě legislativou ze starého kontinentu.
EU nesmí být jediná, jinak tu bude skanzen
Pokud by k tomu totiž nedošlo, reálně hrozí, že nastane pravý opak toho, po čem EU touží. Ta si již před lety stanovila odvážný cíl, že bude lídrem na poli vývoje AI. A svým způsobem k tomu opravdu došlo!
Evropský komisař pro jednotný trh Thierry Breton se chlubí, že jsme jediný kontinent s (budoucí) regulací AI. No právě!
Ty nejchytřejší evropské mozky skutečně vyvíjejí nejpokročilejší umělé inteligence současnosti, nicméně příliš často sedí v americko-britských laboratořích DeepMind, OpenAI nebo třeba Anthropic. Důvod je prostý, Amerika dokáže své AI startupy mnohem lépe a rychleji zainvestovat.
Vývoj i provoz generativní AI je šíleně drahý, drtivá většina chytrých aplikací z poslední doby se tak honosí štítkem Vyrobeno v USA. Pokud tyto systémy nebudou doma stejně regulované jako v Evropě, chuť nabízet služby i u nás bude o to menší, protože to prostě bude ještě nákladnější.
Většina investic do AI končí v USA, respektive v laboratořích napojených na americké matky
A byť by pro ně měl být pětisetmilionový evropský trh extrémně lákavý a tyto překážky svojí velikostí, kupní sílou a kulturní blízkostí hravě vynahradit, rok 2023 ukázal, že tomu tak úplně není a i takový Google si dá měsíce načas, než zde cokoliv vypustí.
Jeho nejnovější Bard poháněný umělou inteligencí Gemini Pro je tak dnes k dispozici na 170 trzích světa. Nicméně na seznamu nefiguruje jedná země Evropské unie.