IBM

IBM zastavuje vývoj technologie pro rozpoznávání tváří. Bojí se jejího zneužití, navíc nevydělává

Foto: IBM Research, CC BY-ND 2.0
IBM zastavuje vývoj technologie pro rozpoznávání tváří. Bojí se jejího zneužití, navíc nevydělává | Foto: IBM Research, CC BY-ND 2.0

Už i samotné firmy začínají mít obavy, že systémy pro rozpoznávání tváří nejsou příliš etickou součástí jejich byznysu. Šéf IBM Arvind Krishna odeslal americkému Kongresu dopis, ve kterém popisuje, že společnost už nevidí smysl v dalším vývoji této technologie. Podle něj by měl vzniknout celonárodní dialog, jestli je vůbec správné, aby rozpoznávání tváří bylo používané v praxi, jelikož systémy jsou jednoduše zneužitelné. 

Tak jako většina událostí z posledních dní, i dopis Krishny navazuje na aktuální celosvětové nepokoje proti policejní brutalitě. Šéf IBM totiž o technologii na rozpoznávání tváří říká, že v rukou bezpečnostních složek se může jednoduše zvrtnout, zmiňuje v té souvislosti rasové profilování.

„IBM je silně proti a nebude tolerovat použití jakékoli technologie, včetně technologie rozpoznávání obličeje nabízené jinými prodejci, pro masové monitorování, rasové profilování, porušování základních lidských práv a svobod nebo jakýkoli účel, který není v souladu s našimi hodnotami a transparentností. Věříme, že nyní nastal čas zahájit vnitrostátní dialog o tom, zda a jak by měly orgány činné v trestním řízení používat technologii pro rozpoznávání obličejů,“ stojí přímo v dopise. 

Krisha následně říká, že pokud by technologie přece jen měla být použita, bude muset být zajištěno, že není proti nějaké skupině obyvatel zaujatá. Aktuálně se totiž o příliš velké přesnosti mluvit nedá a nejhorší je to právě u osob z etnických minorit. Nepříliš dobrou pověst v této oblasti má například systém Rekognition od Amazonu, který již několik policejních složek v USA testuje. 

Technologie na rozpoznávání obličejů je ale obvyklá dobrá tak, jak je dobrý data set, ze kterého vychází. IBM se s tím snažil bojovat již v roce 2018, kdy zveřejnil volnou databázi snímků pro trénovací účely, která měla být právě lépe vyvážena. Hned po tom byl ovšem obviněn ze sdílení jiné databáze, kdy fotky vzal z Flickru, aniž by o tom osoby na nich věděly, takže kontroverze se nevyhnula ani jemu. 

V každém případě důvod pro ukončení vývoje této technologie nemusí být pouze tak honosný, jako obavy o lidská práva. Jak konstatuje server TechCrunch, celá oblast je teprve v zárodku a není příliš výdělečná, protože není mnoho míst, kde lze systémy efektivně aplikovat. Je tu rovněž velká konkurence. Pro IBM to nikdy nebyl velký byznys a zastavením vývoje se dost možná zbaví černé díry na peníze. Oznámit toto rozhodnutí zrovna uprostřed rasových protestů pak může být způsob, jak si zajistit dobré PR. 

Diskuze (4) Další článek: Praha bude znát přesnou polohu tramvají. Pomůžou přijímače s podporou Galilea

Témata článku: Technologie, Umělá inteligence, USA, Amazon, IBM, Strojové učení, Arvind krishna, Vývoj technologie, Obličej, Vývoj, Rozpoznávání tváří, Rekognition, Rozpoznávání, TechCrunch, Rozpoznávání obličejů, Profilování



Kdy dorazí Windows 11 a jak to bude podporou a aktualizacemi Windows 10?
Lukáš Václavík
Windows 11Windows 10Operační systémy
Druhotné softwarové licence. Kdo by nechtěl legální Windows za stovku…

Druhotné softwarové licence. Kdo by nechtěl legální Windows za stovku…

Koupě originálního programového vybavení přímo od výrobce není jedinou možností, jak sehnat pro váš počítač legální software. Další možností je koupit licenci od toho, kdo ji už nepotřebuje nebo nevyužije. Můžete ušetřit nemalou částku, zároveň si však dávejte pozor na podvodníky.

Jan Spěšný