Generativní umělá inteligence pomalu ale jistě proniká do našich životů. Určitě i vy už jste viděli obrázky vytvořené počítačovými algoritmy založenými na strojovém učení. Ve světě, kde se stále častěji setkáváme s fotografiemi vytvořenými umělou inteligencí, je důležité umět rozlišit realitu od podvrhů. Nová studie ukazuje, že klíčem k odhalení deepfake může být pohled do očí. Podrobnosti přináší magazín StudyFinds.
Prezentace v rámci Národního astronomického setkání Královské astronomické společnosti naznačila, že techniky, které astronomové používají ke studiu galaxií, mohou pomoci odhalit falešné obrazy vytvořené umělou inteligencí. Vědci zjistili, že odrazy světel v očích jsou u deepfake obrázků často asymetrické, což lze využít k identifikaci jejich falešnosti.
Je to vlastně celkem jednoduché
Ve své podstatě je to úplně jednoduché: když se podíváte na fotografii skutečné osoby, odrazy světla v obou očích by měly být shodné. U obrázků generovaných umělou inteligencí však tomu tak často není. „Odrazy v očích jsou u reálné osoby konzistentní, ale u falešné osoby bývají nesprávné,“ vysvětluje profesor astrofyziky na univerzitě v Hullu Kevin Pimbblet.
Tento rozdíl vzniká, protože umělá inteligence, i přes své působivé schopnosti, nedokáže při vytváření falešných obrazů správně napodobit fyziku odrazu světla. To může být klíčovým faktorem při odhalování deepfake a ochraně proti manipulacím digitálními obrazy.
Jak se astronomové dostali ke studiu falešných fotografií? Vědecký tým pod vedením studentky Adejumoke Owolabi z University of Hull analyzoval odrazy světla v očích na skutečných fotografiích a v obrázcích vytvořených umělou inteligencí. Poté použili k měření těchto odrazů a kontrole shody mezi levým a pravým okem techniky, které se obvykle používají v astronomii.
Indexy v hlavní roli
„Abychom mohli měřit tvary galaxií, analyzovali jsme, zda jsou centrálně kompaktní, jestli jsou symetrické a nakolik jsou rovnoměrné. Analyzujeme rozložení světla,“ vysvětluje Pimbblet. „Odrazy detekujeme automatizovaně a jejich morfologické vlastnosti proženeme pomocí indexů CAS (koncentrace, asymetrie, hladkost) a Gini, abychom mohli porovnat podobnost mezi levou a pravou oční bulvou.“
Jedním z klíčových nástrojů v rámci této studie je Giniho index. Ten byl původně vyvinut k měření příjmové nerovnosti v ekonomii, ale našel nové uplatnění v astronomii při analýze rozložení světla v obrazech galaxií. Nyní se používá k odhalování falešných očí.
V astronomii Giniho index měří, jak rovnoměrně je světlo na snímku galaxie rozloženo. Hodnota 0 znamená, že světlo je dokonale rovnoměrně rozloženo, zatímco hodnota 1 značí, že veškeré světlo je soustředěno v jediném bodě. Při použití na odrazech očí v obrazech může tento index pomoci odhalit nesrovnalosti, které mohou naznačovat podvrh vytvořený umělou inteligencí.
Není to 100% spolehlivé
Odborníci také experimentovali s indexem CAS (koncentrace, asymetrie, hladkost), což je další nástroj převzatý z astronomie. Tento systém se obvykle používá ke klasifikaci tvarů galaxií, ale pro odhalení falešných očí se neukázal být tak účinný.
Pimbblet upozorňuje, že tato metoda je sice slibná, ale není stoprocentně spolehlivá. „Je důležité si uvědomit, že to není stříbrná kulka pro odhalování falešných obrázků,“ říká. „Existují falešně pozitivní i falešně negativní výsledky; nezachytí to všechno. Tato metoda poskytuje základ, plán útoku v závodě ve zbrojení při odhalování deepfakes.“
Technika identifikace odrazů v očích by se mohla stát součástí širšího souboru nástrojů pro identifikaci obrázků vytvořených umělou inteligencí. V kombinaci s dalšími metodami by mohla pomoci sociálním platformám, zpravodajským organizacím, ale i běžným uživatelům lépe se orientovat ve stále nejasnější hranici mezi tím, co je skutečné, a co falešné.