Že by soudy měly být doménou čistě lidí? Ale kdepak, v Číně si to nemyslí. Úsudek umělé inteligence může být dokonce v mnoha případech lepší, je přesvědčeno vedení země. Vyplývá to alespoň ze slov Sü Ťien-fenga, šéfa informačního centra Nejvyššího lidového soudu Čínské lidové republiky.
Sü Ťien-feng popsal implementaci umělé inteligence do rozhodování soudů ve zprávě, která vyšla v odborném časopise Strategic Study of CAE. Za magazínem stojí Čínská akademie inženýrství, není to nezávislé médium, ale takové v Číně stejně neexistuje. Naopak to ukazuje, že země je na svůj dystopický přístup patřičně hrdá.
Zpráva totiž popisuje systém, který působí jednak velmi nehumánně a jednak jako noční můra pro všechny ochránce osobních dat.
Pomocník, nebo hlavní rozhodčí?
Čína v první řadě tvrdí, že umělá inteligence její soudní systém řádově vylepšuje. Algoritmy podle zprávy samy vymýšlejí legislativní návrhy (to nepatří zrovna do soudnictví, ale stejně je zmíněno), generují různé správní dokumenty a mají se podílet na identifikování možných lidských chyb v soudních verdiktech.
V pekingském nejvyšším soudu dokonce musejí všichni soudci svá rozhodnutí s umělou inteligencí konzultovat. Pokud se chtějí rozhodnout jinak, než navrhla AI, musejí algoritmu podat psané vysvětlení. Jak přesně tento proces v praxi probíhá, není zmíněno.
Umělá inteligence své návrhy poskytuje na základě databáze předchozích verdiktů z podobných případů. Dokáže si k nim rovnou vyhledat potřebnou legislativu, pasáže z trestního zákoníku apod. Server South China Morning Post (SCMP) píše, že existuje už několik případů, kdy lidé v Šanghaji byli stíháni jen na základě rozhodnutí těchto soudních AI.
Vše je napojené na kreditový systém
Podle Sü Ťien-fenga tento systém soudcům ušetřil mezi lety 2019 a 2021 1,7 miliard hodin času. Zároveň měl ušetřit zhruba 1,1 bilionu korun na provozu.
Soudní algoritmy jsou rovnou napojené na vládní databáze, takže jakmile je někdo odsouzen, automaticky je tento postih zaznamenán v tzv. sociálním kreditovém systému, kterým vláda hodnotí chování svých obyvatel. Skóre v tomto systému samozřejmě také ovlivňuje, jaký verdikt AI poskytne. Odsouzenému pak lze jednoduše pár kliknutími odebrat majetek nebo mu zakázat nákup určitého zboží.
I v Číně ale proti tomuto přístupu existuje opozice. Čang Ling-chan, profesorka práva z Čínské univerzity politických věd a práva pro SCMP varovala, že její země si zahrává s tvorbou světa, kde budou vládnout čistě jen stroje. Zvlášť u justice je to podle ní velmi nebezpečné.