Amazon byl jedním z prvních, kdo představil zařízení do domácnosti, které funguje na principu neustálého poslechu – chytrý reproduktor Echo. Díky integraci chytré asistentky Alexa tak stačí na Echo zavolat a získat odpovědi na různé otázky, objednat zboží, přivolat Uber, pustit konkrétní hudbu, ovládat domácnost a spoustu dalšího přes API a aplikace třetích stran.
S neustálým „odposlechem“ ale přichází i nové situace, které je nutné z právního a lidského hlediska řešit. A jedna z těch nejdůležitějších se týká svědectví. Protože je Amazon Echo v současnosti nejrozšířenějším takovým zařízením a v USA je poměrně populární, nelze se divit, že přišla první těžká zkouška.
Alexa jako svědek vraždy
Zařízení Amazon Echo s Alexou se v období 21. a 22. listopadu roku 2015 nacházelo ve stejné místnosti jednoho bytu v Arkansasu, kde se stala vražda. Z vraždy Victora Collinse je obviněn James Andrew Bates a vyšetřování stále probíhá.
Chytré reproduktory Echo od Amazonu obsahují chytrou asistentku Alexu, která neustále poslouchá
Soud se tak rozhodl, že si vyžádá záznam zvuků, hlasů a dalších informací v tomto dvoudenním období přímo od Amazonu. Není nutné řešit, zda po takové době ještě vůbec záznam hlasu je v nějaké formě uložený v samotném zařízení nebo třeba v cloudu Amazonu pro pozdější analytické potřeby umělé inteligence, ale předpokládejme, že ano a daly by se tak získat.
Amazon: Alexa je chráněná ústavou
Proti požadavku soudu se ale ohradil Amazon velmi podrobnou 90stránkovou odpovědí, která zahrnuje několik důvodů, proč rozhodně nechce poskytnout zmíněný záznam a data, i kdyby je měl k dispozici.
V prvním dodatku Ústavy Spojených států amerických totiž nechybí právo na svobodu slova a možnost odmítnutí výpovědi. Podle Amazonu je systém Alexa, respektive nahraný hlas a zvuk uživatelů i případné odpovědi Alexy pod touto základní státní ochranou, takže nelze data uživatelů vydat bez jejich souhlasu samotných. Alespoň nikoli tak jednoduše.
Důvěrný vztah s umělou inteligencí jako nová éra
Chytrá asistentka Alexa je produktem společnosti Amazon, ale stejně jako jiné – Google Now, Microsoft Cortana, Samsung Viv nebo Apple Siri, se stává stále bližším a osobnějším nástrojem, který o nás ví stále více věcí. Věci, které nechceme, aby věděli ostatní, dokonce ani po naší smrti.
Umělá inteligence se učí o nás, o našich oblíbených místech, hudbě, informacích, které preferujeme ale i tajemstvích. Stává se tak mnohem bližším subjektem, podobně jako třeba rodinní příslušníci a podobně.
S rozvojem těchto inteligentních personalizovaných systémů tak nastává nová éra, kterou doposud nebylo nutné z právního ani lidského pohledu příliš řešit. Ale asi si lze těžko představit, že pokud by vláda měla možnost kdykoli získat takto osobní data bez jakýchkoli zábran, rozhodně bychom chytré asistentky a naše osobní umělé inteligence nechtěli nechat poslouchat neustále a takřka všude. Znamenalo by to totiž obrovskou možnost zneužití pro nezákonné odposlechy a další korupční jednání.
Nemusíme mít nasazené růžové brýle abychom si dovedli představit, že Amazon k tomuto boji přistoupil právě z důvodu, aby neztratil důvěru uživatelů v neustále poslouchající zařízení. Je ale rozhodně dobře, že už dnes, kdy jsme na počátku těchto systémů, které jsou stále ještě poměrně primitivní, řešíme tyto otázky a počítáme s tím, že mají stále větší vazbu s našimi životy. Jednou totiž možná budou součástí nás samých.