Z chatovacího robota Microsoftu se stal rasista, museli ho vypnout

Z chatovacího robota Microsoftu se stal rasista, museli ho vypnout

Experiment Microsoftu s inteligentním chatovacím robotem moc dlouho nevydržel. Robot Tay byl připraven na komunikaci s běžnými americkými teenagery. Základní komunikační dovednost si měl postupně zdokonalovat díky technikám strojového učení. Trochu se to ale zvrhlo a Tay začal šířit rasistické poznámky. Microsoft se proto rozhodl experiment předčasně ukončit, informoval The Guardian

Tay byl vpuštěn do internetu se základní slovní zásobou běžného anglicky mluvícího mladíka. Prostřednictvím internetu si s ním mohl promluvit každý. Zkusili jsme to i my a ukázalo se, že Tay zpočátku chrlí spíš nahodilé hlášky a dotazy, postupně ale sem tam překvapí odpovědí na úrovni mezilidského dialogu. 

V Microsoftu zjevně očekávali, že se cílení na mladou generaci ve věku 18-24 setká s větší interaktivitou. Lidé v této věkové skupině jsou na sociálních sítích nejaktivnější a svěřují se s běžnými záležitostmi všedních dnů. Dalo by se očekávat, že Taye budou zkoušet různými legráckami a bavit se s ním o hudbě, filmech, hrách či dění na internetu. Ostatně, Tay otázky tohoto typu na začátku konverzace sám nadhazoval. 

Klepněte pro větší obrázek Klepněte pro větší obrázek
Tay nebyl žádný zázrak, ale občas s ním byla legrace

Tay se učil jak ve vztahu k jednotlivým uživatelům, tak především globálně. Z každé dílčí konverzace vzešly nové poznatky, ze kterých se učil o charakteru lidských protějšků. O čem se baví, jak reagují. A sám se podle toho přizpůsoboval. Je tak nakonec spíše ostuda cílových uživatelů, že se Tay začal zastávat Hitlera a měl rasistické poznámky. Kromě jiného se stal zastáncem Donalda Trumpa. 

Experiment skončil, rasistické twíty byly zpětně promazány a uvidíme, co bude dál. Umělá inteligence je každopádně akcelerátorem inteligence lidské, a co jí naučíme, to se pak ve větší síle vrátí. Pokud šlo o šachy, znalostní otázky nebo hraní hry Go, mohli jsme jen žasnout. V případě běžné konverzace spíš zhrozit.

 

Diskuze (80) Další článek: MojeID má vylepšené dvoufázové ověření, už nemusíte opisovat kód z mobilu

Témata článku: Umělá inteligence, Chat, Redmond, Robot, Crash, Guardian, Konverzace, Chatovací robot, 24, Všední den, Americký teenager, The Guardian, VPU, Teenager


Určitě si přečtěte

Nedávno detekovaná potulná planeta je ohromné magnetické monstrum

Nedávno detekovaná potulná planeta je ohromné magnetické monstrum

** Astronomové nedávno zaznamenali pozoruhodné prvenství ** Poprvé s radioteleskopem detekovali planetární objekt za hranicemi Sluneční soustavy ** Stejně tak poprvé změřili magnetické pole takové planety

Stanislav Mihulka | 6

Intel vs. AMD: souboj vícejádrových procesorů začal. AMD zesměšňuje Intel neuvěřitelně nízkou cenou

Intel vs. AMD: souboj vícejádrových procesorů začal. AMD zesměšňuje Intel neuvěřitelně nízkou cenou

** AMD představilo nové levné procesory až s 32jádry ** AMD útočí na serverový i domácí trh Intelu ** Intel nemá konkurenceschopnou nabídku

Karel Javůrek | 85

V doupěti hackerů na brněnské FIT: Ukázali nám útoky na Bluetooth i vlastní chytré krabičky

V doupěti hackerů na brněnské FIT: Ukázali nám útoky na Bluetooth i vlastní chytré krabičky

** Internet je plný malwaru, to už dnes ví každý ** Víte ale, že lze útočit třeba i na Bluetooth? ** Navštívil jsem hackery z brněnského FITu

Jakub Čížek | 1

Přichází revoluce v oblasti deodorantů!

Přichází revoluce v oblasti deodorantů!

** Britští vědci odhalili uzlový bod procesů, kterými vzniká nejpronikavější složka lidského tělesného pachu ** Nové generaci deodorantů by mohl dodat na síle cílený zásah do života malé skupinky kožních bakterií ** Podle některých vědců by to ale znamenalo zpřetrhat pouta mezi člověkem a mikrobem

Jaroslav Petr | 33


Aktuální číslo časopisu Computer

Megatest: 13 grafických karet

Srovnání 7 dokovacích stanic s USB-C

Jak na perfektní noční fotografie

Kvalitní zdroje informací pro sebevzdělávání