Metody strojového učení dnes dokážou divy, například dokážou manipulovat s tvářemi ve videích. Toho se dá zneužít například pro tzv. „revenge porn“ neboli falešný pornografický snímek vytvořený z pomsty k bývalé partnerce či partnerovi. Stačí nahradit obličej některého z aktérů, který má přibližně stejné tělesné proporce. Na detaily diváci nehledí, protože je stejně neznají, a ostuda je na světě. Ještě vážnější problém může způsobit, když se podobnými technikami vloží do úst politiků slova, která nikdy neřekli. Na tyto novodobé praktiky není legislativa většiny zemí připravena, ale Kalifornie jde vzorem.
Podívejte se, co nikdy neřekl Barack Obama:
Nepravdivých zpráv je plný internet. Pomalu se přitom šíří povědomí o tom, že ne každý článek musí být založený na pravdě a že vznikají zdánlivě důvěryhodné zprávy čistě s cílem manipulovat s vědomím čtenářů. Pojem fakenews už zkrátka nikoho nepřekvapí. Jenže pak tu máme tzv. deep fake.
Typickým zástupcem deep fake jsou právě zmanipulovaná videa. Na falešnou fotografii už se dnes také jen tak někdo nenachytá, protože možnosti grafických editorů jsou všeobecně známy, ale s videi je to jiná - co je na videu, to působí autenticky a důvěryhodně. A technologie už umožňují s obsahem videa manipulovat tak, že nahradíte tváře, aniž by to běžný divák poznal.
Kalifornie nyní připravila legislativu, která toto zohledňuje. Stěžejní jsou dva body. Zaprvé, že 60 dní před volbami je zakázáno veřejně publikovat videa, ve kterých jsou politici vystaveni manipulaci s obličejem. A zadruhé je takové zneužití obličeje ve falešném videu (ať už politickém či pornografickém) bez souhlasu autora nedovolené a nedobrovolný účastník může autora takového videa nahlásit policii a předvést před soud.
Legislativa je postavena tak, že tvorbu videí zcela nezakazuje, ale snaží se zmírnit jejich sílu v nejcitlivějším období a obětem umožnit se efektivněji bránit.