IBM | Flickr

IBM trénovalo svůj software na fotkách z Flickeru. Lidí na snímcích se ale nezeptalo, a tak má problém

IBM trénovalo svůj software na fotkách z Flickeru. Lidí na snímcích se ale nezeptalo, a tak má problém

Nepříjemný problém musí poslední dny řešit IBM v Americe. Místní televize NBC odhalila, že firma pro trénování svého softwaru na rozpoznávání tváří použila milion fotografií z Flickeru. Osob, které se na fotografiích nacházejí, se firma přitom nezeptala, zda může jejich snímky takto využít. Obličeje milionu lidí tak posloužily k něčemu, k čemu jejich nositelé nedali souhlas.

IBM si fotky nevzalo náhodně, šlo o databázi známou jako YFCC100M, kterou vytvořilo Yahoo, původní majitel Flickeru. Jde o miliony snímků sdílené na síti pod licencemi Creative Commons a Yahoo je dalo dohromady právě proto, aby sloužily k výzkumným účelům.

Ani Yahoo se však neptalo, zda se osoby na snímcích chtějí stát předmětem jakéhokoli testování. A neptalo se následně ani IBM, které o databázi požádalo a její část použilo.

Fotografie samozřejmě měly licenci, která dovolala jejich zveřejnění. Dá se také předpokládat, že fotografové měli souhlas svých modelů k tomu, aby je vyfotili a fotky dále používali. Je ale rozdíl mezi tím, když se váš obličej objeví někde jako ilustrační fotka a mezi využitím pro vývoj softwaru.

Fotografové, jejichž fotky takto byly použity, z toho nemají radost. „Nikdo z lidí, které jsem fotil, nemá ponětí, co se s jejich snímky stalo,“ stěžoval si bostonský kreativec Greg Peverill-Conti, od nějž se do databáze dostalo 700 fotografií. „Přijde mi to trochu divné, že je IBM mohlo takhle použít a nikomu nic neříct,“ dodal.

Záležitost by nebyla tak komplikovaná, kdyby nešlo zrovna o software na rozpoznávání obličejů. Snímky se totiž musely roztřídit podle pohlaví, věku, barvy pleti a rasy. Pokud se někdo „pitvá“ ve vaší rase za účelem vývoje systému, který může být v budoucnu použit pro sledování vaší osoby, měl by k tomu mít váš souhlas.

„Lidé souhlasili se sdílením svých fotek v jiném internetovém ekosystému,“ popisovala pro NBC Meredith Whittakerová z AI Now Institute, proč je použití problém. „Teď se nevědomě a nedobrovolně ocitli u trénování systému, který může posloužit k útlaku jejich komunit.“

IBM v reakci ujistilo, že bere ochranu soukromí vážně. Fotky vzalo z veřejných zdrojů, tudíž nevidí pochybení. K databázi mají navíc přístup jen akademici a softwaroví inženýři. Pokud bude někomu vadit, že jeho fotografie se v souboru nachází, IBM slíbilo, že ji vymaže.

Diskuze (9) Další článek: Toyota poletí do vesmíru. Nové lunární vozidlo bude mít unikátní palivové články

Témata článku: Software, Výzkum, Umělá inteligence, IBM, Strojové učení, Yahoo, Flickr, Soukromí, Creative Commons, Milión snímků, Amerika, Snímek, Flickeru, Fotografie, Souhlas, Vývoj systémů, Fotka, NBC, Obličej, Databáze


Určitě si přečtěte

Už desítky let se pokoušíme odposlouchávat mozek. Rusům se podařil kousek, ze kterého vám spadne brada

Už desítky let se pokoušíme odposlouchávat mozek. Rusům se podařil kousek, ze kterého vám spadne brada

** K odposlechu mozků používáme EEG ** To má ale žalostné informační rozlišení ** Rusům pomohla počítačová neuronová síť

Jakub Čížek | 29

Vybrali jsme 21 programovatelných hraček a stavebnic pro děti i jejich rodiče

Vybrali jsme 21 programovatelných hraček a stavebnic pro děti i jejich rodiče

** Získejte děti pro matematiku a základy techniky ** Kupte jim hračku nebo stavebnici, které vdechnou vlastní život ** Vybrali jsme 21 stavebnic pro malé caparty i budoucí experty na A.I.

Jakub Čížek | 11

Nejlepší příslušenství k počítači. Tipy na osvědčené klávesnice, tiskárny, routery…

Nejlepší příslušenství k počítači. Tipy na osvědčené klávesnice, tiskárny, routery…

** Tipy na klávesnice, myši, routery, tiskárny, sluchátka a další věci k počítačům ** Poradíme, s jakými produkty neuděláte chybu ** Vybíráme jak příslušenství na běžnou práci, tak na hraní her

David Polesný | 22

Hledá se způsob, jak uložit elektřinu. Možná pomohou obří gravitační baterie

Hledá se způsob, jak uložit elektřinu. Možná pomohou obří gravitační baterie

** Jak uložit elektřinu z fotovoltaiky a větrných turbín ** Pomohou třeba staré autobaterie, nebo setrvačníky ** A pak tu jsou bizarní gravitační akumulátory velikosti mrakodrapu

Jakub Čížek | 252



Aktuální číslo časopisu Computer

Test 9 bezdrátových reproduktorů

Jak ovládnout Instagram

Test levných 27" herních monitorů

Jak se zbavit nepotřebných věcí na internetu