Ještě že se toho nedožil Orwell: Kanadský Lyrebird se dokáže vydávat za každého z vás. Stačí mu minutová nahrávka

  • Google loni stvořil A.I., která dokáže syntetizovat jakýkoliv zvuk
  • Kanadský Lyrebird jde v jeho stopách
  • Z jediné minuty záznamu napodobí hlas jakékoliv osoby
Ještě že se toho nedožil Orwell: Kanadský Lyrebird se dokáže vydávat za každého z vás. Stačí mu minutová nahrávka

Když se Google loni na sklonku prázdnin poprvé pochlubil se svou neuronovou sítí WaveNet, kterou lze naučit generovat prakticky jakýkoliv zvuk od klavírního koncertu po smyšlený proslov Donalda Trumpa, položili jsme si otázku, jak dlouho ještě budeme moci důvěřovat hlasu jako takovému.

Představte si například, že vám večer zavolá kolega z práce, blízký přítel nebo někdo z rodiny a bude z vás tahat citlivé informace. Vy ten hlas přeci znáte, a tak mu sdělíte cokoliv. Přitom se však bude jednat o důmyslný phishing a na druhé straně sluchátka bude pouze automat útočníka.

Kauza Babiš

Stejně tak by leckdo mohl zneužít hlasový syntetizátor podobné kvality k dehonestaci svého cíle. Na internetu se na sklonku dubna objevilo video s tajnou hlasovou nahrávkou ministra financí Andreje Babiše, který si při hodnocení svých kolegů z vlády a koalice nebere servítky.

Nejspíše je pravá, nicméně za pár let bychom si už takovým soudem nemohli být jisti. Zvláště když vezmeme v potaz, že se jedná o nekvalitní nahrávku, čili by to měla umělá inteligence o to snazší se zamaskováním stop.

Syntetický Babiš vulgárně komentující své okolí se však může na scéně objevit mnohem dříve, než jsme si ještě nedávno mysleli. Google totiž není jediný, kdo se věnuje pokročilé syntéze řeči. Pak je tu zástup dalších týmů, jejichž cílem je uvést podobnou funkci jako komerční službu.

Kanadský Lyrebird napodobí hlas i vaší babičky, když mu pomůžete

Jedním z těch, kteří už jsou hodně daleko, je třeba malý kanadský startup Lyrebird z Montrealské univerzity, který představil experimentální API na hraně etiky. Stačí, když zákazník poskytne alespoň minutový a alespoň trochu vhodný záznam hlasu nějaké osoby a Lyrebird pomocí něj dokáže syntetizovat prakticky cokoliv.

Klepněte pro větší obrázek
Syntetizuj jakýkoliv hlas, stačí minuta skutečného záznamu, je to real-time a upravit můžeš i emoce. George Orwell hadra.

Potenciál zneužití politiků a obecně všech veřejně působících osob je tedy enormní, protože díky internetu není dostupná minuta, ale desítky a stovky hodin jejich proslovů a rozhovorů, takže Lyrebird a další bychom mohli nakrmit velmi kvalitními hlasovými daty.

Ostatně sami autoři na svém webu publikovali několik zkušebních syntetických nahrávek, ve kterých vkládají do úst fiktivní věty právě globálně známým politikům – Donaldu Trumpovi, Baracku Obamovi a Hillary Clintonové. A výsledek je perfektní. Běžný smrtelník by zpočátku nejspíše vůbec nic nepoznal, protože by bez varování neočekával, že na něj mluví automat.

Fiktivní monology politiků o startupu Lyrebird:


Fiktivní Donald Trump vyslovuje stejnou větu s různou intonací:

Další ukázky najdete na Soundcloudu

Éra hoax 2.0 se blíží

Autoři Lyrebirdu si v sekci Ethics na webu projektu uvědomují případné kontroverze, ale věří tomu, že právě nástup podobných systémů do běžného života zrelativizují hlasovou nahrávku jako důkaz. Jinými slovy, lidé si zvyknou, že pouze a výhradně hlasu nebudou moci stoprocentně věřit. Ostatně, kdyby s technologií nepřišel Lyrebird, využije (nebo zneužije) ji dříve či později někdo jiný s mnohem horšími úmysly.

Zvykejme si, že svět se mění a díky technologiím se otevírá pole pro fanoušky alternativních faktů. Ostatně nejde pouze o relativně snadno syntetizovatelný hlas. Podobným tempem se rozvíjí i syntéza grafických dat, čili je otázkou několika příštích let, kdy vám neuronová síť vyrobí fiktivní fotografii, kterou na první pohled nerozeznáte od originálu. To bude teprve hotové terno pro fanoušky konspirací a hoaxů.

Nároky na surfaře, jeho kritické myšlení, a vlastně každého v dnešní informační éře, budou o to větší.

Témata článku: Software, Google, Byznys, Umělá inteligence, Startupy, Strojové učení, Neuronová síť, Příští let, Soundcloud, Terno, Orwell, Andrej Babiš, No, Dok, Kritické myšlení, Kolega, Donald Trump, Clinton, Hillary Clinton, Myšlení, Koalice, Běžný smrtelník

15 komentářů

Nejnovější komentáře

  • KamTom 5. 5. 2017 8:14:23
    Uz se tesim, nemuset hledat pravdu a vedet co je spravne, protoze dobri...
  • David Kollier 3. 5. 2017 17:28:55
    Důchodcům bude pořád stačit ta zrovna propíraná česká nezávislá televize,...
  • Karel Dvořák 3. 5. 2017 17:20:52
    Možná že z toho bude autor na Živě vykulený, ale stroj který vytvoří...
Určitě si přečtěte

Země se jenom o vlásek vyhnula věčnému zmrznutí

Země se jenom o vlásek vyhnula věčnému zmrznutí

** Země po většinu doby své existence zmrzlá rozhodně nebyla ** Podle nového výzkumu tomu však unikla jen o vlásek ** Kdyby totiž byla jenom o 15 procent dále od Slunce, tak by prý kompletně celá zamrzla

20.  9.  2017 | Stanislav Mihulka | 9

CCleaner obsahuje softwarovou havěť! Tvůrcům se do kódu dostali hackeři

CCleaner obsahuje softwarovou havěť! Tvůrcům se do kódu dostali hackeři

** Masově oblíbený program pro softwarovou očistu Windows ovládli hackeři ** Narušení se podařilo zavčas odhalit, unikla jen data o počítačích uživatelů ** Je paradoxní, že CCleaner byl slabě zabezpečen, když jej letos koupil Avast

18.  9.  2017 | David Polesný | 45

Noční strana Venuše vydala další tajemství

Noční strana Venuše vydala další tajemství

18.  9.  2017 | Jiří Černý

Jak tankují bombardéry: Z létající benzinky šest kilometrů nad Českem

Jak tankují bombardéry: Z létající benzinky šest kilometrů nad Českem

** Bombardéry tankují z létající benzinky Boeing KC-135 Stratotanker ** Tu americké letectvo pro doplňování paliva jiných letounů ve vzduchu využívá už více jak půlstoletí ** Tankování probíhá přes speciální výsuvné čerpací rameno na zádi

17.  9.  2017 | Natoaktual.cz

Hacknutý CCleaner je mnohem zákeřnější, než se zdálo. Update na novou verzi nestačí, proveďte obnovu systému

Hacknutý CCleaner je mnohem zákeřnější, než se zdálo. Update na novou verzi nestačí, proveďte obnovu systému

** Chyba v CCleaneru je závažnější, než se zdálo ** Update na novou verzi nemusí stačit ** Přinášíme detaily

Včera | Stanislav Janů | 55


Aktuální číslo časopisu Computer

Vyplatí se ještě těžit kryptoměny?

Velký test studentských notebooků

Test pěti levných soundbarů

Nejlepší chytré hodinky