Z chatovacího robota Microsoftu se stal rasista, museli ho vypnout

Z chatovacího robota Microsoftu se stal rasista, museli ho vypnout

Experiment Microsoftu s inteligentním chatovacím robotem moc dlouho nevydržel. Robot Tay byl připraven na komunikaci s běžnými americkými teenagery. Základní komunikační dovednost si měl postupně zdokonalovat díky technikám strojového učení. Trochu se to ale zvrhlo a Tay začal šířit rasistické poznámky. Microsoft se proto rozhodl experiment předčasně ukončit, informoval The Guardian

Tay byl vpuštěn do internetu se základní slovní zásobou běžného anglicky mluvícího mladíka. Prostřednictvím internetu si s ním mohl promluvit každý. Zkusili jsme to i my a ukázalo se, že Tay zpočátku chrlí spíš nahodilé hlášky a dotazy, postupně ale sem tam překvapí odpovědí na úrovni mezilidského dialogu. 

V Microsoftu zjevně očekávali, že se cílení na mladou generaci ve věku 18-24 setká s větší interaktivitou. Lidé v této věkové skupině jsou na sociálních sítích nejaktivnější a svěřují se s běžnými záležitostmi všedních dnů. Dalo by se očekávat, že Taye budou zkoušet různými legráckami a bavit se s ním o hudbě, filmech, hrách či dění na internetu. Ostatně, Tay otázky tohoto typu na začátku konverzace sám nadhazoval. 

Klepněte pro větší obrázek Klepněte pro větší obrázek
Tay nebyl žádný zázrak, ale občas s ním byla legrace

Tay se učil jak ve vztahu k jednotlivým uživatelům, tak především globálně. Z každé dílčí konverzace vzešly nové poznatky, ze kterých se učil o charakteru lidských protějšků. O čem se baví, jak reagují. A sám se podle toho přizpůsoboval. Je tak nakonec spíše ostuda cílových uživatelů, že se Tay začal zastávat Hitlera a měl rasistické poznámky. Kromě jiného se stal zastáncem Donalda Trumpa. 

Experiment skončil, rasistické twíty byly zpětně promazány a uvidíme, co bude dál. Umělá inteligence je každopádně akcelerátorem inteligence lidské, a co jí naučíme, to se pak ve větší síle vrátí. Pokud šlo o šachy, znalostní otázky nebo hraní hry Go, mohli jsme jen žasnout. V případě běžné konverzace spíš zhrozit.

 

Diskuze (81) Další článek: MojeID má vylepšené dvoufázové ověření, už nemusíte opisovat kód z mobilu

Témata článku: Umělá inteligence, Chat, Redmond, 24, Americký teenager, The Guardian, VPU, Všední den, Chatovací robot, Robot, Prostřednictví internetu, Guardian, M/s, Crash, Konverzace, Teenager


Určitě si přečtěte

Vybrali jsme 16 programovatelných hraček a stavebnic pro děti. A vlastně i pro vás

Vybrali jsme 16 programovatelných hraček a stavebnic pro děti. A vlastně i pro vás

** Získejte děti pro matematiku a základy techniky ** Kupte jim hračku nebo stavebnici, které vdechnou vlastní život ** Vybrali jsme 16 stavebnic pro nejmenší caparty i vás samotné

Jakub Čížek | 17

Giganti mezi nebem a zemí: poznejte 9 největších letadel světa

Giganti mezi nebem a zemí: poznejte 9 největších letadel světa

** Představíme vám devět největších letadel světa ** Patří mezi ně i známé stroje, jako je Boeing 747 či Airbus A380 ** Které letadlo je nejdelší a jaké má největší rozpětí křídel?

Karel Kilián | 7

Nejlepší hardware: Skládáme nenáročnou sestavu i extrém na hry

Nejlepší hardware: Skládáme nenáročnou sestavu i extrém na hry

** Poradíme, jaký se teď vyplatí koupit hardware ** Procesory, desky, paměti, grafické karty... je z čeho vybírat ** Počítač ale nemusíte skládat, ukážeme i výhodné hotové počítače

Stanislav Janů | 8

Jak si pročistit disk ve Windows bez instalování dalších programů

Jak si pročistit disk ve Windows bez instalování dalších programů

** K vyčištění disku ve Windows nepotřebujete nástroje třetích stran. ** Postačíte si i s obyčejným nastavením. ** Zvolit si můžete i automatické promazávání dat.

Vladislav Kluska | 21

Evoluce stále pokračuje, lidem se do kolen vrací kost navíc

Evoluce stále pokračuje, lidem se do kolen vrací kost navíc

** O kost zvanou fabella nás evoluce připravila už před miliony let ** V posledních desetiletích se však „ztracená kost“ znovu objevuje ** Anatomové nabádají ortopedy, aby brali fabellu v potaz

Jaroslav Petr | 31



Aktuální číslo časopisu Computer

Velký test Wi-Fi mesh

Nejlepší hodinky pro všechny aktivity

Důležité aplikace na cesty

Jak streamovat video na Twitch