Jeden z prvních soudních sporů, jehož předmětem byla právní odpovědnost umělé inteligence, skončil tento týden v Kanadě. Aerolince Air Canada bylo přikázáno, aby respektovala slevu, kterou si její chatbot vymyslel a nabídl zákazníkovi. Podnik argumentoval, že za halucinování svého chatbotu odpovědný není, avšak to soud odmítl.
Vše začalo v listopadu 2022, tedy ve stejný měsíc, kdy OpenAI vyslala na veřejnost ChatGPT. Chatboti, které firmy v té době využívaly, sice už nebyli hloupými a zvládli celkem dobře komunikovat, nebyla to ale ještě ta úroveň, na kterou jsme zvyklí dnes. Docházelo k většímu množství bizarní chyb.
Na jednu takovou narazil obyvatel Vancouveru Jake Moffatt. Skrze chatbota na stránkách společnosti Air Canada si zarezervoval letenku. Zaplatil za ni plnou cenu, robot mu ale sdělil, že může do 90 dnů zažádat o sníženou cenu a aerolinka mu rozdíl proplatí. Právě tato sleva byla jedním z důvodů, proč si zrovna tuto letenku koupil, vypověděl později Moffatt u soudu.
Nadšení z ušetřených peněz ale trvalo jen chvíli. Živý zaměstnanec aerolinky se cestovali krátce po zakoupení letenky ozval, že žádnou takovou slevu nenabízí. Moffattovi řekl, že chatbot si akci vymyslel, takže mu nemůže vrátit kus částky, ačkoliv to počítač slíbil. Jednalo se o 880 kanadských dolarů (cca 15 000 Kč). Jako projev dobré vůle alespoň Air Canada nabídla kupón v hodnotě 200 kanadských dolarů na budoucí letenku.
Aerolinka od chatbota dala ruce pryč
Moffatt s touto omluvou nebyl spokojený. Nakonec se rozhodl aerolinku zažalovat, protože dál chtěl získat slíbenou slevu. K jeho naštvání přispělo, že cesta, o kterou se jednalo, byla do Toronta na pohřeb jeho babičky.
Následující proces by možná ani tak zajímavý nebyl, ale člena soudní poroty Christopherae C. Rivers zaujala argumentace, se kterou Air Canada přišla. V rozsudku Rivers píše, že aerolinka používala „pozoruhodná vyjádření” - například tvrdila, že její chatbot je naprosto samostatná právní entita a tudíž za jeho jednání není zodpovědná.
„Chatbot má sice interaktivní složku, ale stále je jen součástí webových stránek společnosti Air Canada. Společnosti Air Canada by mělo být zřejmé, že za všechny informace na svých webových stránkách odpovídá ona,“ zhodnotil Rivers. „Není žádný rozdíl v tom, zda informace pocházejí ze statické stránky, nebo z chatbota,“ pokračuje člen poroty.
Moffatt tak soud vyhrál a Air Canada mu slevu skutečně musí proplatit, byť si ji chatbot vymyslet. Společnost navíc muži musí proplatit soudní poplatky.
Podobné halucinování patří mezi největší rizika velkých jazykových modelů. Umělá inteligence si prostě občas vymýšlí. Cambridge dokonce označil „halucinování AI“ za slovo roku 2023. Právní precedenty pro celou oblast se teprve tvoří a přispívají k tomu právě případy jako tyto, byť mohou působit nepodstatně. Firmy (minimálně v Kanadě) si nyní nedovolí tvrdit, že za své chatboty nemají právní odpovědnost.
Zdroj: Soudní rozsudek, Edmonton Journal