Z chatovacího robota Microsoftu se stal rasista, museli ho vypnout

Experiment Microsoftu s inteligentním chatovacím robotem moc dlouho nevydržel. Robot Tay byl připraven na komunikaci s běžnými americkými teenagery. Základní komunikační dovednost si měl postupně zdokonalovat díky technikám strojového učení. Trochu se to ale zvrhlo a Tay začal šířit rasistické poznámky. Microsoft se proto rozhodl experiment předčasně ukončit, informoval The Guardian

Tay byl vpuštěn do internetu se základní slovní zásobou běžného anglicky mluvícího mladíka. Prostřednictvím internetu si s ním mohl promluvit každý. Zkusili jsme to i my a ukázalo se, že Tay zpočátku chrlí spíš nahodilé hlášky a dotazy, postupně ale sem tam překvapí odpovědí na úrovni mezilidského dialogu. 

V Microsoftu zjevně očekávali, že se cílení na mladou generaci ve věku 18-24 setká s větší interaktivitou. Lidé v této věkové skupině jsou na sociálních sítích nejaktivnější a svěřují se s běžnými záležitostmi všedních dnů. Dalo by se očekávat, že Taye budou zkoušet různými legráckami a bavit se s ním o hudbě, filmech, hrách či dění na internetu. Ostatně, Tay otázky tohoto typu na začátku konverzace sám nadhazoval. 

2016 03 24 (17 14 53).jpg 2016 03 24 (17 19 37).jpg
Tay nebyl žádný zázrak, ale občas s ním byla legrace

Tay se učil jak ve vztahu k jednotlivým uživatelům, tak především globálně. Z každé dílčí konverzace vzešly nové poznatky, ze kterých se učil o charakteru lidských protějšků. O čem se baví, jak reagují. A sám se podle toho přizpůsoboval. Je tak nakonec spíše ostuda cílových uživatelů, že se Tay začal zastávat Hitlera a měl rasistické poznámky. Kromě jiného se stal zastáncem Donalda Trumpa. 

Experiment skončil, rasistické twíty byly zpětně promazány a uvidíme, co bude dál. Umělá inteligence je každopádně akcelerátorem inteligence lidské, a co jí naučíme, to se pak ve větší síle vrátí. Pokud šlo o šachy, znalostní otázky nebo hraní hry Go, mohli jsme jen žasnout. V případě běžné konverzace spíš zhrozit.

 

Článek patří do rubrik: Umělá inteligence, Redmond, Chat

82 komentářů

Nejnovější komentáře

  • panzeleny , 29. 3. 2016 10:50:51
    Multikulti je nesmysl, tak proč to furt propíráte? Akorát tomu děláte...
  • NoMouse , 28. 3. 2016 13:39:05
    No, po prohlédnutí této galerie http://imgur.com/a/Zfwsz se ani tak moc...
  • Richard Starý , 26. 3. 2016 16:15:18
    ZŘEJMĚ OPISOVAL NÁZORY Z WEBŮ PATŘÍCÍ MF A ŽIVĚ CZ

Určitě si přečtěte


9 internetových příspěvků, které patří k legendám: jak se oznamovaly velké věci 30 let před Facebookem

9 internetových příspěvků, které patří k legendám: jak se oznamovaly velké věci 30 let před Facebookem

** Internet, fóra a komunita tu byly dávno před příchodem WWW ** Takto legendy oznamovaly své novinky ** Takto se tehdy svět dozvídal o Windows

25.  8.  2016 | Jakub Čížek | 18

Pojďme programovat elektroniku: Vyzkoušíme ultrazvukový dálkoměr, detektor pohybu, deště a další kouzla

Pojďme programovat elektroniku: Vyzkoušíme ultrazvukový dálkoměr, detektor pohybu, deště a další kouzla

** Vyzkoušíme si senzory na pokročilých sběrnicích ** Budeme ultrazvukem měřit vzdálenost ** Detekujeme déšť i pohyb

28.  8.  2016 | Jakub Čížek | 23

Seznam spustil Porno Detektor. Pokouší se poznat holé zadky i opravdové čuňárny

Seznam spustil Porno Detektor. Pokouší se poznat holé zadky i opravdové čuňárny

** Seznam.cz testuje nový algoritmus, který odhaluje pornografické obrázky ** Rozhodování, co je a co není za hranou, není jednoznačné ** Do budoucna může technologie pomoci při filtraci obsahu ve vyhledávači

25.  8.  2016 | Jakub Čížek | 26


Aktuální číslo časopisu Computer

Testy nejnovějších produktů na českém trhu.

Informace ze světa internetu i bezpečnosti.

Plné verze programů zdarma pro všechny čtenáře.