Z chatovacího robota Microsoftu se stal rasista, museli ho vypnout

Z chatovacího robota Microsoftu se stal rasista, museli ho vypnout

Experiment Microsoftu s inteligentním chatovacím robotem moc dlouho nevydržel. Robot Tay byl připraven na komunikaci s běžnými americkými teenagery. Základní komunikační dovednost si měl postupně zdokonalovat díky technikám strojového učení. Trochu se to ale zvrhlo a Tay začal šířit rasistické poznámky. Microsoft se proto rozhodl experiment předčasně ukončit, informoval The Guardian

Tay byl vpuštěn do internetu se základní slovní zásobou běžného anglicky mluvícího mladíka. Prostřednictvím internetu si s ním mohl promluvit každý. Zkusili jsme to i my a ukázalo se, že Tay zpočátku chrlí spíš nahodilé hlášky a dotazy, postupně ale sem tam překvapí odpovědí na úrovni mezilidského dialogu. 

V Microsoftu zjevně očekávali, že se cílení na mladou generaci ve věku 18-24 setká s větší interaktivitou. Lidé v této věkové skupině jsou na sociálních sítích nejaktivnější a svěřují se s běžnými záležitostmi všedních dnů. Dalo by se očekávat, že Taye budou zkoušet různými legráckami a bavit se s ním o hudbě, filmech, hrách či dění na internetu. Ostatně, Tay otázky tohoto typu na začátku konverzace sám nadhazoval. 

2016 03 24 (17 14 53).jpg 2016 03 24 (17 19 37).jpg
Tay nebyl žádný zázrak, ale občas s ním byla legrace

Tay se učil jak ve vztahu k jednotlivým uživatelům, tak především globálně. Z každé dílčí konverzace vzešly nové poznatky, ze kterých se učil o charakteru lidských protějšků. O čem se baví, jak reagují. A sám se podle toho přizpůsoboval. Je tak nakonec spíše ostuda cílových uživatelů, že se Tay začal zastávat Hitlera a měl rasistické poznámky. Kromě jiného se stal zastáncem Donalda Trumpa. 

Experiment skončil, rasistické twíty byly zpětně promazány a uvidíme, co bude dál. Umělá inteligence je každopádně akcelerátorem inteligence lidské, a co jí naučíme, to se pak ve větší síle vrátí. Pokud šlo o šachy, znalostní otázky nebo hraní hry Go, mohli jsme jen žasnout. V případě běžné konverzace spíš zhrozit.

 

Článek patří do rubrik: Umělá inteligence

82 komentářů

Diskuze

  • panzeleny , 29. 3. 2016 10:50:51
    Multikulti je nesmysl, tak proč to furt propíráte? Akorát tomu děláte...
  • NoMouse , 28. 3. 2016 13:39:05
    No, po prohlédnutí této galerie http://imgur.com/a/Zfwsz se ani tak moc...
  • Richard Starý , 26. 3. 2016 16:15:18
    ZŘEJMĚ OPISOVAL NÁZORY Z WEBŮ PATŘÍCÍ MF A ŽIVĚ CZ

Určitě si přečtěte


Pokémon Go pro pokročilé: odhalte skutečný potenciál svých Pokémonů

Pokémon Go pro pokročilé: odhalte skutečný potenciál svých Pokémonů

** Ke hře Pokémon Go můžete přistoupit i více analyticky ** Za pomocí speciálního algoritmu můžete zjistit skutečný potenciál svých Pokémonů

22.  7.  2016 | Tomáš Holčík | 49

5 nástrojů, které pomohou vyhledat zapomenuté licenční klíče k softwaru

5 nástrojů, které pomohou vyhledat zapomenuté licenční klíče k softwaru

**Pokud ztratíte krabici od Windows nebo Office, lze vydolovat licenci ze systému ** Aplikace dokážou zjistit klíče až osmi tisíc programů ** Základem je schopnost uložit všechny klíče do souboru

23.  7.  2016 | Stanislav Janů | 13

RX 480 vs. GTX 1060: celý svět měří, která karta je lepší, výsledky jsou celkem jednoznačné

RX 480 vs. GTX 1060: celý svět měří, která karta je lepší, výsledky jsou celkem jednoznačné

** První střet nové generace grafik se odehrál ve střední třídě ** Nvidia nás přesvědčila, že umí vyrábět především efektivní grafiky ** RX 480 si lépe poradí s DX 12

20.  7.  2016 | Stanislav Janů | 104

Mozilla má plán: V příštích šesti měsících čekejte zcela předělaný Firefox

Mozilla má plán: V příštích šesti měsících čekejte zcela předělaný Firefox

** Po roce slibů přicházejí činy ** Firefox má novou road-mapu pro příští půlrok ** Změny začnou za pár dnů verzí 48

19.  7.  2016 | Jakub Čížek | 69


Aktuální číslo časopisu Computer

Testy nejnovějších produktů na českém trhu.

Informace ze světa internetu i bezpečnosti.

Plné verze programů zdarma pro všechny čtenáře.