Neuronová síť Googlu si vytvořila vlastní jazyk, kterým si pomáhá v překladech

Loni zkraje podzimu vypustil Google do svého jazykového překladače strojové učení a doufal, že postupem času zlepší a nahradí stávající statistický model, který jednotlivé věty překládá jednoduše řečeno tak, že na základě analýz hromady jazykových párů (třeba bilingvální úřední texty EU – stejný text v hromadě jazyků) spočítá, že výrazu A v jednom jazyce odpovídá nejpravděpodobněji výraz B v druhém jazyce. Statistický překladač tedy vůbec nemusí rozumět tomu, co vlastně překládá. Pouze hledá podobné páry.

Strojové učení mělo přinést opravdu hloubkové učení, kdy se stroj podobně jako člověk naučí, co k čemu patří. A překlady by tak pak měly dávat mnohem větší smysl.

Inženýři z Googlu šli nicméně ještě dál a začali experimentovat s tzv. překlady zero-shot. Neuronová síť se nejprve naučila několik jazykových párů, které spolu nepřímo souvisely. Na blogu Googlu se píše o párech:

  • japonština – angličtina
  • angličtina – japonština
  • korejština – angličtina
  • angličtina – korejština

Tak a teď to podstatné. Co kdyby neuronová síť na základě znalosti těchto překladových párů dostala příkaz, ať něco přeloží z japonštiny do korejštiny?

Přímo tento jazykový pár nezná, ale nepřímo ano skrze prostředníka – angličtinu. A zadařilo se, překlad podle Googlu skutečně dával smysl, To nakonec inženýry vedlo k další otázce. Jak je vlastně samotná znalost v neuronové síti uložená? A nevytváří si neuronová síť při učení vlastně jakýsi vlastní univerzální jazyk, díky kterému by mohla přeložit jakýkoliv jazykový pár, pokud o něm alespoň nepřímo něco ví?

Odpověď je ano. Není to ale samozřejmě jazyk v lidském slova smyslu – složený z písmen a číslic. Je to opět velmi složitá znalostní struktura, kterou můžeme vyjádřit třeba pomocí geometrie. Inženýři Googlu tedy v 3D grafu zobrazili strojovou znalost – naučený model – jako strukturu teček, kde každému shluku odpovídá věta. Poté zjistili, že stroj do takových shluků zařazuje ze všech známých jazyků.

Klepněte pro větší obrázek
Neuronová síť překladače Googlu organizuje věty se stejným významem v různých jazycích do podobných geometrických struktur. Díky tomu dokáže experimentálně překládat i mezi jazykovými páry, které doposud neznala. Suma sumárum, v podstatě si vytvořila jakýsi, touto geometrií vyjádřený, sémantický jazyk.

Jednoduše řečeno, stroj během učení zmíněných párů výše objevil i vztah mezi japonštinou a korejštinou, který se přímo neučil. Ony shluky teček jsou tedy v jeho podání vlastně ona interlingua – mezijazyk, díky kterému může překládat i jazykové páry, které nezná.

Je to vlastně to samé, jako byste se naučili překládat z češtiny do angličtiny (a naopak), z češtiny do němčiny (a naopak), načež byste díky této znalosti pochopili i vztah mezi němčinou a angličtinou.

Témata článku: Technologie, Google, Web, Věda, Umělá inteligence, Strojové učení, Překladač, Neuronová síť, Překladače

7 komentářů

Nejnovější komentáře

  • Jozef Kostelanský 11. 1. 2017 21:35:50
    Je otázkou času, kedy na tomto princípe sa bude dať okamžite preložiť...
  • drobecka 11. 1. 2017 13:44:29
    Vravel som si že dejavu a ono naozaj...
  • StormBorec 11. 1. 2017 12:33:01
    nechápu ... přece se ví, že google překládá jenom z angličtiny a do...
Určitě si přečtěte

Špičkoví hackeři útočili na prohlížeče. Chrome odolal, ale Edge je tragédie

Špičkoví hackeři útočili na prohlížeče. Chrome odolal, ale Edge je tragédie

** Do Vancouveru se sjeli hackeři ** Soutěžili v útocích na prohlížeče ** Chrome odolal, ale Edge to projel na celé čáře

22.  3.  2017 | Jakub Čížek | 79

Pojďme programovat elektroniku: Meteostanice, která bude díky Sigfoxu posílat stav počasí třeba z vrcholu Sněžky

Pojďme programovat elektroniku: Meteostanice, která bude díky Sigfoxu posílat stav počasí třeba z vrcholu Sněžky

** Příští roky budou ve znamení internetu věcí ** Podívali jsme se podrobně na síť Sigfox ** Takhle s ní komunikují krabičky z celé Evropy

19.  3.  2017 | Jakub Čížek | 18

Kde nejlevněji uložit 1 TB dat: Srovnali jsme aktuální ceny cloudových úložišť

Kde nejlevněji uložit 1 TB dat: Srovnali jsme aktuální ceny cloudových úložišť

** Srovnali jsme známá cloudová úložiště podle toho, kolik měsíčně zaplatíte za 1TB ** Ceny se pohybují od dvou stovek až po tisíc korun ** Google umožní uložit až 30 TB dat

18.  3.  2017 | Stanislav Janů | 115

Obří Mechroboti jsou realitou, měří čtyři metry a mají hmotnost přes 1,5 tuny

Obří Mechroboti jsou realitou, měří čtyři metry a mají hmotnost přes 1,5 tuny

** Jihokorejská společnost Hankook Mirae Technology vyrábí obří Mechroboty ** Jsou určené pro ovládání člověkem uvnitř ** V prodeji se objeví koncem tohoto roku za 200 milionů korun

20.  3.  2017 | Karel Javůrek | 18


Aktuální číslo časopisu Computer

Supertéma o počítačové bezpečnosti

AMD Ryzen přichází

Velké testy kinoprojektorů a levných sluchátek

Příslušenství do USB-C