Ještě že se toho nedožil Orwell: Kanadský Lyrebird se dokáže vydávat za každého z vás. Stačí mu minutová nahrávka

  • Google loni stvořil A.I., která dokáže syntetizovat jakýkoliv zvuk
  • Kanadský Lyrebird jde v jeho stopách
  • Z jediné minuty záznamu napodobí hlas jakékoliv osoby
Ještě že se toho nedožil Orwell: Kanadský Lyrebird se dokáže vydávat za každého z vás. Stačí mu minutová nahrávka

Když se Google loni na sklonku prázdnin poprvé pochlubil se svou neuronovou sítí WaveNet, kterou lze naučit generovat prakticky jakýkoliv zvuk od klavírního koncertu po smyšlený proslov Donalda Trumpa, položili jsme si otázku, jak dlouho ještě budeme moci důvěřovat hlasu jako takovému.

Představte si například, že vám večer zavolá kolega z práce, blízký přítel nebo někdo z rodiny a bude z vás tahat citlivé informace. Vy ten hlas přeci znáte, a tak mu sdělíte cokoliv. Přitom se však bude jednat o důmyslný phishing a na druhé straně sluchátka bude pouze automat útočníka.

Kauza Babiš

Stejně tak by leckdo mohl zneužít hlasový syntetizátor podobné kvality k dehonestaci svého cíle. Na internetu se na sklonku dubna objevilo video s tajnou hlasovou nahrávkou ministra financí Andreje Babiše, který si při hodnocení svých kolegů z vlády a koalice nebere servítky.

Nejspíše je pravá, nicméně za pár let bychom si už takovým soudem nemohli být jisti. Zvláště když vezmeme v potaz, že se jedná o nekvalitní nahrávku, čili by to měla umělá inteligence o to snazší se zamaskováním stop.

Syntetický Babiš vulgárně komentující své okolí se však může na scéně objevit mnohem dříve, než jsme si ještě nedávno mysleli. Google totiž není jediný, kdo se věnuje pokročilé syntéze řeči. Pak je tu zástup dalších týmů, jejichž cílem je uvést podobnou funkci jako komerční službu.

Kanadský Lyrebird napodobí hlas i vaší babičky, když mu pomůžete

Jedním z těch, kteří už jsou hodně daleko, je třeba malý kanadský startup Lyrebird z Montrealské univerzity, který představil experimentální API na hraně etiky. Stačí, když zákazník poskytne alespoň minutový a alespoň trochu vhodný záznam hlasu nějaké osoby a Lyrebird pomocí něj dokáže syntetizovat prakticky cokoliv.

Klepněte pro větší obrázek
Syntetizuj jakýkoliv hlas, stačí minuta skutečného záznamu, je to real-time a upravit můžeš i emoce. George Orwell hadra.

Potenciál zneužití politiků a obecně všech veřejně působících osob je tedy enormní, protože díky internetu není dostupná minuta, ale desítky a stovky hodin jejich proslovů a rozhovorů, takže Lyrebird a další bychom mohli nakrmit velmi kvalitními hlasovými daty.

Ostatně sami autoři na svém webu publikovali několik zkušebních syntetických nahrávek, ve kterých vkládají do úst fiktivní věty právě globálně známým politikům – Donaldu Trumpovi, Baracku Obamovi a Hillary Clintonové. A výsledek je perfektní. Běžný smrtelník by zpočátku nejspíše vůbec nic nepoznal, protože by bez varování neočekával, že na něj mluví automat.

Fiktivní monology politiků o startupu Lyrebird:


Fiktivní Donald Trump vyslovuje stejnou větu s různou intonací:

Další ukázky najdete na Soundcloudu

Éra hoax 2.0 se blíží

Autoři Lyrebirdu si v sekci Ethics na webu projektu uvědomují případné kontroverze, ale věří tomu, že právě nástup podobných systémů do běžného života zrelativizují hlasovou nahrávku jako důkaz. Jinými slovy, lidé si zvyknou, že pouze a výhradně hlasu nebudou moci stoprocentně věřit. Ostatně, kdyby s technologií nepřišel Lyrebird, využije (nebo zneužije) ji dříve či později někdo jiný s mnohem horšími úmysly.

Zvykejme si, že svět se mění a díky technologiím se otevírá pole pro fanoušky alternativních faktů. Ostatně nejde pouze o relativně snadno syntetizovatelný hlas. Podobným tempem se rozvíjí i syntéza grafických dat, čili je otázkou několika příštích let, kdy vám neuronová síť vyrobí fiktivní fotografii, kterou na první pohled nerozeznáte od originálu. To bude teprve hotové terno pro fanoušky konspirací a hoaxů.

Nároky na surfaře, jeho kritické myšlení, a vlastně každého v dnešní informační éře, budou o to větší.

Témata článku: Software, Google, Byznys, Umělá inteligence, Startupy, Strojové učení, Neuronová síť, Soundcloud, No, Trump, Orwell, Clinton, Hillary Clinton

15 komentářů

Nejnovější komentáře

  • KamTom 5. 5. 2017 8:14:23
    Uz se tesim, nemuset hledat pravdu a vedet co je spravne, protoze dobri...
  • David Kollier 3. 5. 2017 17:28:55
    Důchodcům bude pořád stačit ta zrovna propíraná česká nezávislá televize,...
  • Karel Dvořák 3. 5. 2017 17:20:52
    Možná že z toho bude autor na Živě vykulený, ale stroj který vytvoří...
Určitě si přečtěte

To tu ještě nebylo. Specialisté ukázali, že zavirované mohou být i titulky SRT

To tu ještě nebylo. Specialisté ukázali, že zavirované mohou být i titulky SRT

** Stáhnete si film a titulky třeba z OpenSubtitles.org ** A osud vás za ten warez záhy potrestá ** Specialisté totiž ukázali, že i v titulcích může být schovaný virus

24.  5.  2017 | Jakub Čížek | 58

WannaCry se neměl vůbec rozšířit. Stačilo, abychom používali Windows Update

WannaCry se neměl vůbec rozšířit. Stačilo, abychom používali Windows Update

** WannaCry se masivně rozšířil kvůli zranitelnosti ve Windows ** Ta mu umožnila, aby se pokusil sám napadnout další počítače ** Jenže ta chyba už je dva měsíce opravená!

22.  5.  2017 | Jakub Čížek | 97

Pojďme programovat elektroniku: Postavíme si bezdotykové ovládání PC za stokorunu

Pojďme programovat elektroniku: Postavíme si bezdotykové ovládání PC za stokorunu

** Vzpomínáte na Leap Motion? ** Dnes si postavíme něco podobného za zlomek ceny ** Pohrajeme si s optickým detektorem gest

Včera | Jakub Čížek | 6


Aktuální číslo časopisu Computer

Bojujeme proti Fake News

Dva velké testy: fotoaparáty a NASy

Co musíte vědět o změně evropského roamingu

Radíme s výběrem základní desky