IBM

IBM zastavuje vývoj technologie pro rozpoznávání tváří. Bojí se jejího zneužití, navíc nevydělává

Foto: IBM Research, CC BY-ND 2.0
IBM zastavuje vývoj technologie pro rozpoznávání tváří. Bojí se jejího zneužití, navíc nevydělává | Foto: IBM Research, CC BY-ND 2.0

Už i samotné firmy začínají mít obavy, že systémy pro rozpoznávání tváří nejsou příliš etickou součástí jejich byznysu. Šéf IBM Arvind Krishna odeslal americkému Kongresu dopis, ve kterém popisuje, že společnost už nevidí smysl v dalším vývoji této technologie. Podle něj by měl vzniknout celonárodní dialog, jestli je vůbec správné, aby rozpoznávání tváří bylo používané v praxi, jelikož systémy jsou jednoduše zneužitelné. 

Tak jako většina událostí z posledních dní, i dopis Krishny navazuje na aktuální celosvětové nepokoje proti policejní brutalitě. Šéf IBM totiž o technologii na rozpoznávání tváří říká, že v rukou bezpečnostních složek se může jednoduše zvrtnout, zmiňuje v té souvislosti rasové profilování.

„IBM je silně proti a nebude tolerovat použití jakékoli technologie, včetně technologie rozpoznávání obličeje nabízené jinými prodejci, pro masové monitorování, rasové profilování, porušování základních lidských práv a svobod nebo jakýkoli účel, který není v souladu s našimi hodnotami a transparentností. Věříme, že nyní nastal čas zahájit vnitrostátní dialog o tom, zda a jak by měly orgány činné v trestním řízení používat technologii pro rozpoznávání obličejů,“ stojí přímo v dopise. 

Krisha následně říká, že pokud by technologie přece jen měla být použita, bude muset být zajištěno, že není proti nějaké skupině obyvatel zaujatá. Aktuálně se totiž o příliš velké přesnosti mluvit nedá a nejhorší je to právě u osob z etnických minorit. Nepříliš dobrou pověst v této oblasti má například systém Rekognition od Amazonu, který již několik policejních složek v USA testuje. 

Technologie na rozpoznávání obličejů je ale obvyklá dobrá tak, jak je dobrý data set, ze kterého vychází. IBM se s tím snažil bojovat již v roce 2018, kdy zveřejnil volnou databázi snímků pro trénovací účely, která měla být právě lépe vyvážena. Hned po tom byl ovšem obviněn ze sdílení jiné databáze, kdy fotky vzal z Flickru, aniž by o tom osoby na nich věděly, takže kontroverze se nevyhnula ani jemu. 

V každém případě důvod pro ukončení vývoje této technologie nemusí být pouze tak honosný, jako obavy o lidská práva. Jak konstatuje server TechCrunch, celá oblast je teprve v zárodku a není příliš výdělečná, protože není mnoho míst, kde lze systémy efektivně aplikovat. Je tu rovněž velká konkurence. Pro IBM to nikdy nebyl velký byznys a zastavením vývoje se dost možná zbaví černé díry na peníze. Oznámit toto rozhodnutí zrovna uprostřed rasových protestů pak může být způsob, jak si zajistit dobré PR. 

Diskuze (4) Další článek: Praha bude znát přesnou polohu tramvají. Pomůžou přijímače s podporou Galilea

Témata článku: Technologie, Umělá inteligence, USA, Amazon, IBM, Strojové učení, Rozpoznávání, Obličej, Profilování, Rekognition, Vývoj, TechCrunch, Rozpoznávání tváří, Vývoj technologie, Rozpoznávání obličejů


Určitě si přečtěte

Šest nejlepších služeb a aplikací pro automatizaci online světa a chytré domácnosti

Šest nejlepších služeb a aplikací pro automatizaci online světa a chytré domácnosti

** Nastavte si automatiku na každodenní rutinní záležitosti ** Propojte online služby a chytrou domácnost ** Vybrali jsme šest nejlepších služeb pro automatizaci

Karel Kilián | 15

Testy procesorů Intel Comet Lake pro desktopy jsou venku. Teď už je jasné, jakého dostaly Ryzeny soupeře

Testy procesorů Intel Comet Lake pro desktopy jsou venku. Teď už je jasné, jakého dostaly Ryzeny soupeře

** Embargo pro testy nových desktopových procesorů Comet Lake od Intelu skončilo ** Spousta recenzí a testů ukazuje výhody a nevýhody nových modelů ** Dokáží nové procesory konkurovat modelům od AMD?

Karel Javůrek | 47

Z rozmazané šmouhy krásná fotka. Takhle kouzlí nová umělá inteligence MyHeritage

Z rozmazané šmouhy krásná fotka. Takhle kouzlí nová umělá inteligence MyHeritage

** MyHeritage slibuje nejlepší neuronovou síť pro vylepšování fotek ** Funguje tím líp, čím horší fotku upravuje ** Otestovali jsme desítky různých snímků

Marek Lutonský, Lukáš Václavík | 36

12 netradičních map České republiky, které jste ještě nikdy neviděli

12 netradičních map České republiky, které jste ještě nikdy neviděli

** Tušíte, kolik je u nás hřbitovů a jak jsou velké? ** Dokážete si představit mapu českých řek a potoků? ** Udělali jsme to všechno za vás nad daty ČÚZK

Jakub Čížek | 10

Za hranicemi Chromu: 13 nejzajímavějších prohlížečů, které „nikdo“ nepoužívá

Za hranicemi Chromu: 13 nejzajímavějších prohlížečů, které „nikdo“ nepoužívá

** Šesti nejpoužívanějším prohlížečům patří 94 % trhu ** Různé „klony“ Chromu slibují lepší funkce nebo jiný design ** Také Firefox má řadu zajímavých odnoží

Lukáš Václavík | 38

Vyrobíme si falešný Mac mini za tisícovku. Stačí Raspberry Pi a 3D tiskárna

Vyrobíme si falešný Mac mini za tisícovku. Stačí Raspberry Pi a 3D tiskárna

** Vyzkoušíme Raspberry Pi 4 s iRaspbianem ** Operační systém vypadá skoro jako macOS ** Vše strčíme do vlastní stylové krabice

Jakub Čížek | 30

Ubuntu 20.04: Zase vás chce přesvědčit, že je lepší než Windows

Ubuntu 20.04: Zase vás chce přesvědčit, že je lepší než Windows

** Britský Canonical před pár dny vydal novou verzi svého Ubuntu ** 20.04 LTS zapracovalo na grafickém desktopu, rychlosti i bezpečnosti ** V nitru tepe Linux 5.4 a volitelně i nový souborový systém

Jakub Čížek | 121

Podívejte se na Windows z roku 1990. Před 30 lety přišly Windows 3.0 a líbily se nám

Podívejte se na Windows z roku 1990. Před 30 lety přišly Windows 3.0 a líbily se nám

** 22. května 1990 uvedl Microsoft Windows 3.0 ** Systém z Microsoftu definitivně udělal lídra na desktopu ** Tehdejší Windows byly vlastně grafickou nadstavbou nad MS-DOS

Jakub Čížek | 76

Apple vychrlil novinky: Nové operační systémy a příprava na vlastní procesory

Apple vychrlil novinky: Nové operační systémy a příprava na vlastní procesory

** Apple dnes představuje novinky ** Tradiční keynote v rámci konference WWDC probíhá jen online ** Nové operační systémy, ale i něco navíc

David Polesný | 108


Aktuální číslo časopisu Computer

Megatest SSD s kapacitou 1 TB

Srovnávací test robotických vysavačů

Vybíráme nejlepší telefony na trhu

Jak zlepšit zvuk televize