YouTube tento týden nasadil nová pravidla, která mají ochránit diváky, aby si nespletli videa vytvořená nebo upravená pomocí AI se skutečností. Autoři budou muset takový obsah při nahrávání označit a štítek pak bude viditelný v přehrávači.
Novinka se na YouTube objeví v nadcházejících týdnech. Google říká, že při dlouhodobém porušování pravidel a neoznačování videí bude tvůrce postihovat. Sám prý ale zavede algoritmy, které mají generovaná videa rozpoznat a označit i v případě, že tak neučiní autoři.
Ne vše vygenerované bude mít štítek. Jen obsah, který může být zaměnitelný s realitou. Firma se speciálně zaměří na deepfake videa, kde se manipuluje s tvářemi nebo hlasy. Nebo na reálné záběry událostí nebo scenérií doplněné o efekty, jakože známá budova hoří, letí na ni raketa apod. A samozřejmě to platí i pro případy, kdy nedošlo k manipulaci reálných záběrů, ale také případů, kdy to celé vytvořila generativní AI.
Takovými štítky YouTube označí videa vytvořená pomocí AI nebo upravení pomocí efektů. Štítky budou v mobilních i televizních aplikací a také na webu
Novými pravidly ale projdou zjevně nerealistická videa jako animace nebo člověk jedoucí ve fantaskním světě na jednorožci. Nevadí ani úpravy barev, vylepšení zvuku, zkrášlující filtry, uměle dodané rozostření apod., což dnes automaticky dělají i některé mobily. Stejně tak lze generativní AI nepřiznaně používat k tvorbě námětů, scénářů nebo automatickému přepisování titulků.
V nápovědě pak YouTube detailněji vyjmenovává zakázané praktiky, které autoři umí označit:
- Syntetické generování hudby (včetně hudby generované pomocí služby YouTube Creator Music).
- Klonování hlasu někoho jiného pro použití jako voiceoveru.
- Syntetické generování dodatečných záběrů skutečného místa, například videa surfaře na Havaji pro propagační cestovatelské video.
- Syntetické generování realistického videa zápasu dvou skutečných profesionálních tenisových hráčů.
- Vyvolání dojmu, že někdo dal nějakou radu, když ji ve skutečnosti nedal.
- Digitální upravení zvuku, aby zněl, jako by oblíbený zpěvák při živém vystoupení zpíval falešně.
- Realistické ztvárnění tornáda nebo jiných živelních pohrom mířících ke skutečnému městu, k čemuž ve skutečnosti nedošlo.
- Video, ze kterého se zdá, jako by pracovníci nemocnice odmítli nemocné nebo zraněné pacienty, i když to není pravda.
- Vyobrazení veřejné osoby při krádeži, kterou neprovedla, nebo při přiznání se ke krádeži, které neučinila.
- Vytvoření nepravdivého dojmu, že došlo k zatčení nebo uvěznění skutečné osoby.