Umělá inteligence

Ameriku by před škodlivou umělou inteligencí mohla ochránit nová listina práv. Nebo moratorium

Ameriku by před škodlivou umělou inteligencí mohla ochránit nová listina práv. Nebo moratorium

Prvky umělé inteligence, zejména ty v nástrojích pro rozpoznávání tváří a další biometrice, nefunguje vždy ideálně. Nadržují osobám bílé pleti, někdy také mužům. Ačkoliv to obvykle vychází z nedokonalých datasetů, na kterých byla umělá inteligence vytrénována, záležitost se dostala tak daleko, že podobné technologie začínají být lokálně zakazovány. Americká administrativa nyní uvedla, že celá problematika se bude muset začít řešit nejen právně, ale rovnou ústavně.

Ústavně v tom smyslu, že by pro celý technologický sektor měla vzniknout nová listina základních práv a svobod, která by určovala, jaká jsou práva lidí vůči technologiím, zejména umělé inteligenci. V zásadě by v ní bylo uvedeno, jak moc nám algoritmy mohou zasahovat do životů a jaké chování AI už je za hranou. Tato listina by měla stejnou právní váhu jako klasická listina práv.

Myšlenku vyslovil poradí orgán prezidenta Joe Bidena, který se zabývá nastavováním regulačních rámců pro technologie a vědu. Dva jeho členové, Eric Lander a Alondra Nelsonová, se o tom také rozepsali pro magazín Wired. „Měli bychom vyžadovat, aby výkonné technologie respektovaly naše demokratické hodnoty a ctily základní princip, že se všemi lidmi musí být zacházeno stejně férově,“ vysvětlují v komentáři s tím, že zatím nebylo nikde právně stanoveno, co si umělá inteligence může dovolit a co ne.

Až takový rámec vznikne, bude jednodušší pro autory technologií přizpůsobit tvorbu těmto standardům, jsou přesvědčeni Bidenovi poradci, zároveň pro lidi bude snazší se bránit, pokud je umělá inteligence poškodí.

Poradní orgán ale zároveň říká, že listina práv je jen začátek. Zřejmě bude muset časem vzniknout i nařízení, aby vláda nekupovala technologie, nad kterými visí otazník a nespolupracovala s výrobci, kteří se nových pravidel nebudou držet.

K podobnému názoru, i když trochu jinou cestou, dospěla i Evropská unie. Již nastavila určité limity pro riskantní použití AI, tento týden se pak Evropský parlament vyslovil proti policejnímu využívání systémů na rozpoznávání obličejů. Podle jím schválené rezoluce by mělo vzniknout moratorium odkládající toto používání, dokud nebude zajištěno, že je vše v pořádku. Zároveň by ve veřejných prostorách tyto systémy nesměly analyzovat jiné lidské projevy jako hlas nebo chůzi. Umělá inteligence by také nesměla být použita pro předpovídání zločinů.

Diskuze (8) Další článek: Google se přidal k Applu, už také žaluje Epic Games kvůli obcházení platebního systému

Témata článku: Technologie, Umělá inteligence, Právo, Strojové učení, USA, Evropská unie, Wired, Listina, Evropský parlament, Moratorium, Rozpoznávání, Amerika, Joe Biden



Americký tryskový dron Coyote vyřídíl hejno dronů protivníka

Americký tryskový dron Coyote vyřídíl hejno dronů protivníka

** Americká armáda poprvé úspěšně otestovala likvidaci hejna dronů vzdušným prostředkem, který nezahrnoval kinetický útok ** Proti hejnu 10 dronů byly použity malé tryskové drony Coyote Block 3 společnosti Raytheon ** Ty byly vybaveny systémem pro elektronický boj nebo nějakou energetickou zbraní

Stanislav Mihulka
ArmádaUSADrony