Z chatovacího robota Microsoftu se stal rasista, museli ho vypnout

Z chatovacího robota Microsoftu se stal rasista, museli ho vypnout

Experiment Microsoftu s inteligentním chatovacím robotem moc dlouho nevydržel. Robot Tay byl připraven na komunikaci s běžnými americkými teenagery. Základní komunikační dovednost si měl postupně zdokonalovat díky technikám strojového učení. Trochu se to ale zvrhlo a Tay začal šířit rasistické poznámky. Microsoft se proto rozhodl experiment předčasně ukončit, informoval The Guardian

Tay byl vpuštěn do internetu se základní slovní zásobou běžného anglicky mluvícího mladíka. Prostřednictvím internetu si s ním mohl promluvit každý. Zkusili jsme to i my a ukázalo se, že Tay zpočátku chrlí spíš nahodilé hlášky a dotazy, postupně ale sem tam překvapí odpovědí na úrovni mezilidského dialogu. 

V Microsoftu zjevně očekávali, že se cílení na mladou generaci ve věku 18-24 setká s větší interaktivitou. Lidé v této věkové skupině jsou na sociálních sítích nejaktivnější a svěřují se s běžnými záležitostmi všedních dnů. Dalo by se očekávat, že Taye budou zkoušet různými legráckami a bavit se s ním o hudbě, filmech, hrách či dění na internetu. Ostatně, Tay otázky tohoto typu na začátku konverzace sám nadhazoval. 

Klepněte pro větší obrázek Klepněte pro větší obrázek
Tay nebyl žádný zázrak, ale občas s ním byla legrace

Tay se učil jak ve vztahu k jednotlivým uživatelům, tak především globálně. Z každé dílčí konverzace vzešly nové poznatky, ze kterých se učil o charakteru lidských protějšků. O čem se baví, jak reagují. A sám se podle toho přizpůsoboval. Je tak nakonec spíše ostuda cílových uživatelů, že se Tay začal zastávat Hitlera a měl rasistické poznámky. Kromě jiného se stal zastáncem Donalda Trumpa. 

Experiment skončil, rasistické twíty byly zpětně promazány a uvidíme, co bude dál. Umělá inteligence je každopádně akcelerátorem inteligence lidské, a co jí naučíme, to se pak ve větší síle vrátí. Pokud šlo o šachy, znalostní otázky nebo hraní hry Go, mohli jsme jen žasnout. V případě běžné konverzace spíš zhrozit.

 

Diskuze (81) Další článek: MojeID má vylepšené dvoufázové ověření, už nemusíte opisovat kód z mobilu

Témata článku: Umělá inteligence, Chat, Redmond, Chatovací robot, Robot, Všední den, VPU, Prostřednictví internetu, The Guardian, Teenager, Crash, Americký teenager, Konverzace, 24, Guardian, M/s


Určitě si přečtěte

Podívejte se na Windows z roku 1990. Před 30 lety přišly Windows 3.0 a líbily se nám

Podívejte se na Windows z roku 1990. Před 30 lety přišly Windows 3.0 a líbily se nám

** 22. května 1990 uvedl Microsoft Windows 3.0 ** Systém z Microsoftu definitivně udělal lídra na desktopu ** Tehdejší Windows byly vlastně grafickou nadstavbou nad MS-DOS

Jakub Čížek | 76

Deset kotev, které i v roce 2020 táhnou Android ke dnu

Deset kotev, které i v roce 2020 táhnou Android ke dnu

** Android existuje skoro 12 let a za tu dobu v mnoha směrech dospěl ** Dnes běží na sedmi z deseti telefonů, ale čemu za to vděčí? ** Našli jsme 10 kotev, které táhnou tento operační systém ke dnu

Karel Kilián | 163

Teachable Machine: Umělá inteligence za pět minut i bez doktorátu z ČVUT

Teachable Machine: Umělá inteligence za pět minut i bez doktorátu z ČVUT

** Pochopit techniky a principy A.I. je složité ** Ale nebojte, jde to i bez doktorátu z IT a matematiky ** Vyzkoušíme generátor neuronových sítí od Googlu

Jakub Čížek | 10

Šest nejlepších služeb a aplikací pro automatizaci online světa a chytré domácnosti

Šest nejlepších služeb a aplikací pro automatizaci online světa a chytré domácnosti

** Nastavte si automatiku na každodenní rutinní záležitosti ** Propojte online služby a chytrou domácnost ** Vybrali jsme šest nejlepších služeb pro automatizaci

Karel Kilián | 14


Aktuální číslo časopisu Computer

Megatest SSD s kapacitou 1 TB

Srovnávací test robotických vysavačů

Vybíráme nejlepší telefony na trhu

Jak zlepšit zvuk televize