Jako slabý odvar působí ve srovnání s aktuální kauzou nedávná aféra, kdy pracovníci různých firem poslouchali nahrávky z chytrých reproduktorů. Amazon posunul pomyslnou laťku narušování soukromí svých zákazníků na úplně novou úroveň. Na záznamy z kamer, které si uživatelé pořizují k monitorování svých domácností, se totiž dívají jeho zaměstnanci.
O kauze informuje řada zahraničních médií v čele s agenturou Bloomberg, která uvádí, že zaměstnanci Amazonu v Indii a Rumunsku sledují záznamy, které kamery ukládají do cloudu. Proč to dělají? Údajně proto, aby mohli odstraňovat problémy a školit algoritmy umělé inteligence.
Špión, kterého si sami zaplatíte
V reklamním spotu Amazon uvádí, že jeho bezpečnostní kamera Cloud Cam poskytuje „vše, co potřebujete ke sledování vašeho domova, ve dne nebo v noci.“ Už ale nezmiňuje, že sledovat vaši domácnost možná bude i někdo další.
Tuto nepříjemnou informaci zveřejnilo pět nejmenovaných zaměstnanců, kteří pracovali na školení umělé inteligence, případně o něm měli informace. Řádově se má jednat o desítky pracovníků z Indie a Rumunska, jejichž úkolem je přezkoumávat úryvky nahrávek, pořízené cloudovými kamerami.
Zasvěcené zdroje tvrdí, že v Indii pracují desítky zaměstnanců na uzavřeném oddělení, kde platí přísná bezpečnostní pravidla – například zákaz používání mobilních telefonů. Ani to však údajně nezabránilo v předávání záběrů jiným členům týmu.
Podivné školení umělé inteligence
Cílem této aktivity byla snaha o vylepšení algoritmů, které vyhodnocují, zda byl narušen sledovaný prostor. Zaměstnanci posuzovali, jestli se jedná o skutečnou hrozbu (například v podobě zloděje), nebo falešný poplach (např. pobíhající kočku).
Je nepochybné, že umělá inteligence potřebuje při svém učení pomoc skutečných lidí, nicméně využívání přístupu k soukromým nahrávkám už je hodně za hranicí toho, co je většina zákazníků v tomto rámci ochotna akceptovat.
Zaměstnání: šmírák
Typický den zaměstnance, jehož úkolem bylo školení algoritmů, spočíval ve zhlédnutí přibližně 150 videonahrávek, dlouhých mezi 20 a 30 sekundami. Podle zdrojů, které si z pochopitelných důvodů přály zůstat v anonymitě, se jednalo o interní testovací program pro identifikaci událostí v rámci domácnosti. Denně takto pracovníci prohlédli až několik tisíc záběrů.
Amazon se brání tím, že hodnocené nahrávky pocházely z kamer zaměstnanců, kteří se přihlásili do testovacího programu. Další část záznamů pak odeslali sami uživatelé kvůli řešení problémů s nepřesnou detekcí nebo nevyhovující kvalitou videa. Mohou tak učinit například v situaci, kdy kamera hlásí falešný poplach. K nahrávkám prý nelze přistupovat jiným způsobem.
„Bereme soukromí velmi vážně a poskytujeme majitelům kamer Cloud Cam kontrolu nad jejich nahrávkami,“ uvedla tisková mluvčí společnosti s tím, že pokud nejsou záběry z kamery odeslány pro účely odstraňování problémů, „mohou záznamy prohlížet pouze zákazníci.“
Pikantnosti na záznamu
Tvrzení o tom, že všechny záběry byly odeslány samotnými uživateli, však zpochybňuje skutečnost, že některé klipy obsahují „nevhodný obsah“, který by asi většina zákazníků ke kontrole neodesílala. Konkrétně má jít o citlivý osobní obsah, včetně sexuálních praktik. Tisková mluvčí uvedla, že takové záznamy jsou okamžitě mazány, nicméně nespecifikovala, s jakými obrázky se zaměstnanci mohli setkávat.
Podmínky služby Amazon Cloud Cam nikde nezmiňují, že by firma mohla používat pořízené záznamy k trénování umělé inteligence skutečnými lidmi. Ačkoli zdroje nepodložily svá tvrzení hmatatelnými důkazy, jedná se o poměrně závažné obvinění, které se může negativně projevit na důvěře zákazníků v cloudové kamery.
Nyní je tedy otázkou, zda věřit „nejmenovaným zdrojům“, které „si přály zůstat v anonymitě“, nebo tiskové mluvčí Amazonu, podle níž lidskou kontrolou procházejí pouze záběry odeslané samotnými zákazníky. Pokud jsou uvedená tvrzení pravdivá, může to pro firmu znamenat fatální problém. V opačném případě by se měla bránit soudní cestou kvůli poškození dobrého jména.