Nechybělo mnoho a na americké školáky mohla čekat značně dystopická budoucnost. Axon, firma vyvíjejí zbraňové systémy pro armádu a policii, chtěla studenty při jejich školní docházce chránit speciálními drony vybavenými paralyzéry a zaměřovacím systémem na bázi umělé inteligence. Jakmile ale nápad přestavila, většina jejího výboru pro etické otázky na protest rezignovala.
Amerika oproti zbytku světa zažívá často masové střelby ve školách. Debata o tom, jak je tento problém závažný, se opět rozvířila v minulých dnech poté, co střelec v texaském městě Uvalde na konci května zavraždil 19 dětí a dva dospělé.
Nápadů, jak těmto tragédiím předejít, zaznívá v americkém prostoru mnoho a Axon chtěl na pomoc povolat právě technologie. Firma s drony vybavenými paralyzéry koketuje už od roku 2016, kdy je plánovala prodávat policejním složkám, projekt tak jen oprášila a představila návrh „školního hlídacího dronu“.
Chytré drony napojené na kamery
V případě střelby v Uvalde se momentálně intenzivně řeší fakt, že policisté proti pachateli nezasáhli dostatečně rychle. Ředitel Axonu Rick Smith proto podle agentury Reuters zamýšlel, že by drony byly umístěné doslova ve školních chodbách a do tříd by mohly létat skrze ventilaci.
Drony by doplňoval celý IT systém od Axonu, kdy by helikoptérky byly napojené na kanály ve školních bezpečnostních kamerách. Tento systém by automaticky pomocí umělé inteligence a zřejmě technologie na rozpoznávání osob byl schopný identifikovat, zda se někdo nechystá střílet. Odeslal by upozornění, které by poté musel posoudit lidský operátor, aby nedošlo k omylu.
Tento operátor by ve finále rozhodnul, zda drony s paralyzérem proti útočníkovi aktivovat. Helikoptérky by nicméně byly vybaveny i automatickým cílícím algoritmem, aby se „rychle a precizně trefily“, jak popsal Smith.
Jinými slovy školáci by byli kvůli riziku útoku neustále monitorováni a ještě by ve škole chodili vedle dronů s paralyzéry. Axon to vnímal jako lepší řešení než v případě krize čekat na příjezd policie – drony by podle firmy byly schopné útočníka neutralizovat do 60 sekund. Školy by systém vyšel na 1000 dolarů za rok a na trh měl přijít už v roce 2024.
Celá vize „strážných dronů“ je popsána v komiksu nazvaném Konec zabíjení, který osobně sepsal Smith. Najdete ho zde.
Neetické a nic to neřeší, vzkázal výbor
Nápad vzbudil hodně emocí, nejvíce ale v samotné firmě. Projekt podporoval především ředitel, zato výbor pro etické otázky umělé inteligence se od něj distancoval. Devět z jeho dvanácti členů se rozhodlo rezignovat a sepsalo dopis, ve kterém vysvětlují, proč podobné školní drony nejsou dobrý nápad.
Přiznávají, že prvotní oznámení podpořili, protože byli v šoku ze střelby v Uvalde, nicméně později jim došlo, že Axon nemá vyřešenou etickou stránky věci a firma by přispěla k přerodu Ameriky do policejního státu.
Navíc členové představenstva tvrdí, že systém by byl zneužitelný a poukazují na fakt, že monitorovací systémy tohoto typu znevýhodňují minority. „Drony s paralyzéry nemají žádnou reálnou šanci vyřešit problém masových střeleb, ačkoliv to Axon říká. Jen to společnost zdržuje od hledání opravdových řešení tohoto tragického problému,“ stojí v dopise. Firmu také obviňují z toho, že se snaží vydělávat na neštěstí.
Smith chvíli nereagoval, několik dní na to ale oznámil, že Axon drony nakonec nevyrobí a začal argumentovat tím, že chtěl jen otevřít debatu.
Není to poprvé, co ustoupil. V roce 2019 slíbil, že kamery Axonu pro policii nebudou vybaveny technologií pro rozpoznávání obličejů, jelikož si na ně lidé také stěžovali. Firma dodává techniku zhruba 17 000 policejním složkách z celkových 18 000 v USA.
