Software | Umělá inteligence | Startupy

Ještě že se toho nedožil Orwell: Kanadský Lyrebird se dokáže vydávat za každého z vás. Stačí mu minutová nahrávka

  • Google loni stvořil A.I., která dokáže syntetizovat jakýkoliv zvuk
  • Kanadský Lyrebird jde v jeho stopách
  • Z jediné minuty záznamu napodobí hlas jakékoliv osoby

Když se Google loni na sklonku prázdnin poprvé pochlubil se svou neuronovou sítí WaveNet, kterou lze naučit generovat prakticky jakýkoliv zvuk od klavírního koncertu po smyšlený proslov Donalda Trumpa, položili jsme si otázku, jak dlouho ještě budeme moci důvěřovat hlasu jako takovému.

Představte si například, že vám večer zavolá kolega z práce, blízký přítel nebo někdo z rodiny a bude z vás tahat citlivé informace. Vy ten hlas přeci znáte, a tak mu sdělíte cokoliv. Přitom se však bude jednat o důmyslný phishing a na druhé straně sluchátka bude pouze automat útočníka.

Kauza Babiš

Stejně tak by leckdo mohl zneužít hlasový syntetizátor podobné kvality k dehonestaci svého cíle. Na internetu se na sklonku dubna objevilo video s tajnou hlasovou nahrávkou ministra financí Andreje Babiše, který si při hodnocení svých kolegů z vlády a koalice nebere servítky.

Nejspíše je pravá, nicméně za pár let bychom si už takovým soudem nemohli být jisti. Zvláště když vezmeme v potaz, že se jedná o nekvalitní nahrávku, čili by to měla umělá inteligence o to snazší se zamaskováním stop.

Syntetický Babiš vulgárně komentující své okolí se však může na scéně objevit mnohem dříve, než jsme si ještě nedávno mysleli. Google totiž není jediný, kdo se věnuje pokročilé syntéze řeči. Pak je tu zástup dalších týmů, jejichž cílem je uvést podobnou funkci jako komerční službu.

Kanadský Lyrebird napodobí hlas i vaší babičky, když mu pomůžete

Jedním z těch, kteří už jsou hodně daleko, je třeba malý kanadský startup Lyrebird z Montrealské univerzity, který představil experimentální API na hraně etiky. Stačí, když zákazník poskytne alespoň minutový a alespoň trochu vhodný záznam hlasu nějaké osoby a Lyrebird pomocí něj dokáže syntetizovat prakticky cokoliv.

6297469
Syntetizuj jakýkoliv hlas, stačí minuta skutečného záznamu, je to real-time a upravit můžeš i emoce. George Orwell hadra.

Potenciál zneužití politiků a obecně všech veřejně působících osob je tedy enormní, protože díky internetu není dostupná minuta, ale desítky a stovky hodin jejich proslovů a rozhovorů, takže Lyrebird a další bychom mohli nakrmit velmi kvalitními hlasovými daty.

Ostatně sami autoři na svém webu publikovali několik zkušebních syntetických nahrávek, ve kterých vkládají do úst fiktivní věty právě globálně známým politikům – Donaldu Trumpovi, Baracku Obamovi a Hillary Clintonové. A výsledek je perfektní. Běžný smrtelník by zpočátku nejspíše vůbec nic nepoznal, protože by bez varování neočekával, že na něj mluví automat.

Fiktivní monology politiků o startupu Lyrebird:


Fiktivní Donald Trump vyslovuje stejnou větu s různou intonací:

Další ukázky najdete na Soundcloudu

Éra hoax 2.0 se blíží

Autoři Lyrebirdu si v sekci Ethics na webu projektu uvědomují případné kontroverze, ale věří tomu, že právě nástup podobných systémů do běžného života zrelativizují hlasovou nahrávku jako důkaz. Jinými slovy, lidé si zvyknou, že pouze a výhradně hlasu nebudou moci stoprocentně věřit. Ostatně, kdyby s technologií nepřišel Lyrebird, využije (nebo zneužije) ji dříve či později někdo jiný s mnohem horšími úmysly.

Zvykejme si, že svět se mění a díky technologiím se otevírá pole pro fanoušky alternativních faktů. Ostatně nejde pouze o relativně snadno syntetizovatelný hlas. Podobným tempem se rozvíjí i syntéza grafických dat, čili je otázkou několika příštích let, kdy vám neuronová síť vyrobí fiktivní fotografii, kterou na první pohled nerozeznáte od originálu. To bude teprve hotové terno pro fanoušky konspirací a hoaxů.

Nároky na surfaře, jeho kritické myšlení, a vlastně každého v dnešní informační éře, budou o to větší.

Diskuze (15) Další článek: Windows 10 S: Microsoft představil novou verzi Windows pro studenty. Má zamést s chromebooky

Témata článku: , , , , , , , , , , , , , , , , , , , , , , , , ,