IBM | Flickr

IBM trénovalo svůj software na fotkách z Flickeru. Lidí na snímcích se ale nezeptalo, a tak má problém

IBM trénovalo svůj software na fotkách z Flickeru. Lidí na snímcích se ale nezeptalo, a tak má problém

Nepříjemný problém musí poslední dny řešit IBM v Americe. Místní televize NBC odhalila, že firma pro trénování svého softwaru na rozpoznávání tváří použila milion fotografií z Flickeru. Osob, které se na fotografiích nacházejí, se firma přitom nezeptala, zda může jejich snímky takto využít. Obličeje milionu lidí tak posloužily k něčemu, k čemu jejich nositelé nedali souhlas.

IBM si fotky nevzalo náhodně, šlo o databázi známou jako YFCC100M, kterou vytvořilo Yahoo, původní majitel Flickeru. Jde o miliony snímků sdílené na síti pod licencemi Creative Commons a Yahoo je dalo dohromady právě proto, aby sloužily k výzkumným účelům.

Ani Yahoo se však neptalo, zda se osoby na snímcích chtějí stát předmětem jakéhokoli testování. A neptalo se následně ani IBM, které o databázi požádalo a její část použilo.

Fotografie samozřejmě měly licenci, která dovolala jejich zveřejnění. Dá se také předpokládat, že fotografové měli souhlas svých modelů k tomu, aby je vyfotili a fotky dále používali. Je ale rozdíl mezi tím, když se váš obličej objeví někde jako ilustrační fotka a mezi využitím pro vývoj softwaru.

Fotografové, jejichž fotky takto byly použity, z toho nemají radost. „Nikdo z lidí, které jsem fotil, nemá ponětí, co se s jejich snímky stalo,“ stěžoval si bostonský kreativec Greg Peverill-Conti, od nějž se do databáze dostalo 700 fotografií. „Přijde mi to trochu divné, že je IBM mohlo takhle použít a nikomu nic neříct,“ dodal.

Záležitost by nebyla tak komplikovaná, kdyby nešlo zrovna o software na rozpoznávání obličejů. Snímky se totiž musely roztřídit podle pohlaví, věku, barvy pleti a rasy. Pokud se někdo „pitvá“ ve vaší rase za účelem vývoje systému, který může být v budoucnu použit pro sledování vaší osoby, měl by k tomu mít váš souhlas.

„Lidé souhlasili se sdílením svých fotek v jiném internetovém ekosystému,“ popisovala pro NBC Meredith Whittakerová z AI Now Institute, proč je použití problém. „Teď se nevědomě a nedobrovolně ocitli u trénování systému, který může posloužit k útlaku jejich komunit.“

IBM v reakci ujistilo, že bere ochranu soukromí vážně. Fotky vzalo z veřejných zdrojů, tudíž nevidí pochybení. K databázi mají navíc přístup jen akademici a softwaroví inženýři. Pokud bude někomu vadit, že jeho fotografie se v souboru nachází, IBM slíbilo, že ji vymaže.

Diskuze (9) Další článek: Toyota poletí do vesmíru. Nové lunární vozidlo bude mít unikátní palivové články

Témata článku: Software, Umělá inteligence, Výzkum, Strojové učení, Yahoo, IBM, Soukromí, Flickr, Creative Commons, Fotka, Souhlas, Databáze, NBC, Fotografie, Obličej, Flickeru, Amerika, Snímek


Určitě si přečtěte

Severní magnetický pól „odcestoval“ z Kanady na Sibiř. Vědci musí upravit model

Severní magnetický pól „odcestoval“ z Kanady na Sibiř. Vědci musí upravit model

** Zemské magnetické pole se chová nepředvídatelně ** Severní magnetický pól se posouvá z Kanady směrem na Sibiř ** Vědci musí rychle aktualizovat Světový magnetický model

Karel Kilián | 30

Photolemur 3: Prostě do něj přetáhnete fotky a začne se dít magie. Tedy údajně...

Photolemur 3: Prostě do něj přetáhnete fotky a začne se dít magie. Tedy údajně...

** Je lepší nabušený Photoshop, nebo program s jedním tlačítkem? ** Photolemur si myslí to druhé ** Tento fotoeditor neumí skoro nic, a přitom (skoro) všechno

Jakub Čížek | 22