Ještě že se toho nedožil Orwell: Kanadský Lyrebird se dokáže vydávat za každého z vás. Stačí mu minutová nahrávka

  • Google loni stvořil A.I., která dokáže syntetizovat jakýkoliv zvuk
  • Kanadský Lyrebird jde v jeho stopách
  • Z jediné minuty záznamu napodobí hlas jakékoliv osoby
Ještě že se toho nedožil Orwell: Kanadský Lyrebird se dokáže vydávat za každého z vás. Stačí mu minutová nahrávka

Když se Google loni na sklonku prázdnin poprvé pochlubil se svou neuronovou sítí WaveNet, kterou lze naučit generovat prakticky jakýkoliv zvuk od klavírního koncertu po smyšlený proslov Donalda Trumpa, položili jsme si otázku, jak dlouho ještě budeme moci důvěřovat hlasu jako takovému.

Představte si například, že vám večer zavolá kolega z práce, blízký přítel nebo někdo z rodiny a bude z vás tahat citlivé informace. Vy ten hlas přeci znáte, a tak mu sdělíte cokoliv. Přitom se však bude jednat o důmyslný phishing a na druhé straně sluchátka bude pouze automat útočníka.

Kauza Babiš

Stejně tak by leckdo mohl zneužít hlasový syntetizátor podobné kvality k dehonestaci svého cíle. Na internetu se na sklonku dubna objevilo video s tajnou hlasovou nahrávkou ministra financí Andreje Babiše, který si při hodnocení svých kolegů z vlády a koalice nebere servítky.

Nejspíše je pravá, nicméně za pár let bychom si už takovým soudem nemohli být jisti. Zvláště když vezmeme v potaz, že se jedná o nekvalitní nahrávku, čili by to měla umělá inteligence o to snazší se zamaskováním stop.

Syntetický Babiš vulgárně komentující své okolí se však může na scéně objevit mnohem dříve, než jsme si ještě nedávno mysleli. Google totiž není jediný, kdo se věnuje pokročilé syntéze řeči. Pak je tu zástup dalších týmů, jejichž cílem je uvést podobnou funkci jako komerční službu.

Kanadský Lyrebird napodobí hlas i vaší babičky, když mu pomůžete

Jedním z těch, kteří už jsou hodně daleko, je třeba malý kanadský startup Lyrebird z Montrealské univerzity, který představil experimentální API na hraně etiky. Stačí, když zákazník poskytne alespoň minutový a alespoň trochu vhodný záznam hlasu nějaké osoby a Lyrebird pomocí něj dokáže syntetizovat prakticky cokoliv.

Klepněte pro větší obrázek
Syntetizuj jakýkoliv hlas, stačí minuta skutečného záznamu, je to real-time a upravit můžeš i emoce. George Orwell hadra.

Potenciál zneužití politiků a obecně všech veřejně působících osob je tedy enormní, protože díky internetu není dostupná minuta, ale desítky a stovky hodin jejich proslovů a rozhovorů, takže Lyrebird a další bychom mohli nakrmit velmi kvalitními hlasovými daty.

Ostatně sami autoři na svém webu publikovali několik zkušebních syntetických nahrávek, ve kterých vkládají do úst fiktivní věty právě globálně známým politikům – Donaldu Trumpovi, Baracku Obamovi a Hillary Clintonové. A výsledek je perfektní. Běžný smrtelník by zpočátku nejspíše vůbec nic nepoznal, protože by bez varování neočekával, že na něj mluví automat.

Fiktivní monology politiků o startupu Lyrebird:


Fiktivní Donald Trump vyslovuje stejnou větu s různou intonací:

Další ukázky najdete na Soundcloudu

Éra hoax 2.0 se blíží

Autoři Lyrebirdu si v sekci Ethics na webu projektu uvědomují případné kontroverze, ale věří tomu, že právě nástup podobných systémů do běžného života zrelativizují hlasovou nahrávku jako důkaz. Jinými slovy, lidé si zvyknou, že pouze a výhradně hlasu nebudou moci stoprocentně věřit. Ostatně, kdyby s technologií nepřišel Lyrebird, využije (nebo zneužije) ji dříve či později někdo jiný s mnohem horšími úmysly.

Zvykejme si, že svět se mění a díky technologiím se otevírá pole pro fanoušky alternativních faktů. Ostatně nejde pouze o relativně snadno syntetizovatelný hlas. Podobným tempem se rozvíjí i syntéza grafických dat, čili je otázkou několika příštích let, kdy vám neuronová síť vyrobí fiktivní fotografii, kterou na první pohled nerozeznáte od originálu. To bude teprve hotové terno pro fanoušky konspirací a hoaxů.

Nároky na surfaře, jeho kritické myšlení, a vlastně každého v dnešní informační éře, budou o to větší.

Diskuze (15) Další článek: Windows 10 S: Microsoft představil novou verzi Windows pro studenty. Má zamést s chromebooky

Témata článku: Software, Google, Byznys, Umělá inteligence, Strojové učení, Startupy, Neuronová síť, API, Barack Obama, Donald Trump, Kolega, Orwell, Clinton, Hillary Clintonová, Babiš, Záznam, Koalice, Finance, Hlasový syntetizátor, Hlas, Druhá strana, Terno, Klavírní koncert, Citlivá informace, Minuta


Určitě si přečtěte

Proč autopilot Tesly bourá? Test dává odpověď: může za to řidič!

Proč autopilot Tesly bourá? Test dává odpověď: může za to řidič!

** Britové otestovali Teslu v režimu autopilota ** Skončilo to nárazem Tesly do stojícího auta ** Kdo je na vině? Řidič

Karel Kilián | 55

15 věcí, které umí Windows 10, ale možná o nich vůbec nevíte

15 věcí, které umí Windows 10, ale možná o nich vůbec nevíte

** Systém Windows 10 umí spoustu užitečných drobností ** O mnoha praktických funkcích pravděpodobně ani nevíte ** Poznejte užitečné tipy, které se vám mohou hodit každý den

Vladislav Kluska | 33

Jak dopadl velký den Applu s náloží novinek: Sledujte, co letos připravil

Jak dopadl velký den Applu s náloží novinek: Sledujte, co letos připravil

** Apple večer představil novinky ** Ukáže nové operační systémy, ale čekala se i nová zařízení ** Začíná vývojářská konference Applu WWDC 2018

Karel Javůrek | 87

Šmírovačka kamerami Googlu: Koukněte se, co nového zachytily na Street View

Šmírovačka kamerami Googlu: Koukněte se, co nového zachytily na Street View

Google stále fotí celý svět do své služby Street View. A novodobou zábavou je hledat v mapách Googlu vtipné záběry. Podívejte se na výběr nejlepších!

redakce | 43

Alan Turing: Genius, který matematicky stvořil počítač

Alan Turing: Genius, který matematicky stvořil počítač

Řešením matematického problému se dostal k modelu teoretického stroje, který nese jeho jméno a je základem logiky univerzálních počítačů.

Pavel Tronner | 56

Našli jsme 22 schopných internetových prohlížečů: Vyberte si, který vám nejvíc sedne

Našli jsme 22 schopných internetových prohlížečů: Vyberte si, který vám nejvíc sedne

** Není jen Chrome, Firefox, Edge či Opera. Na výběr máte mnohem více! ** Internetové prohlížeče se liší funkcemi, zaměřením i designem. Našli jsme 22 použitelných prohlížečů pro Windows ** Vyberte si prohlížeč, který vám bude nejvíce vyhovovat

Karel Kilián | 32


Aktuální číslo časopisu Computer

Kdy necháme řídit chytrá auta?

6 Wi-Fi Mesh systémů ve velkém testu

Srovnali jsme 7 sportovních kamer

Znáte pravidla pro létání s drony?