Umělá inteligence | Strojové učení | Neuronová síť

Neuronová síť GLTR dokáže odhalit, jestli text napsal člověk, nebo robot

Neuronová síť GLTR dokáže odhalit, jestli text napsal člověk, nebo robot

Neuronové sítě jsou stále schopnější v generování falešných dat počínaje textem a konče obrazem. Dnes sice ještě fikci od reality poznáme, během několika let to ale bude pro člověka naprosto nemožné.

Na scénu proto musí přijít neuronové sítě s opačným účelem. Namísto generování fiktivních informací budou zjišťovat, jestli tu kontroverzní fotografii šířící se Facebookem opravdu vyfotil reportér kdesi v Africe, anebo ji s pixelovou přesností vygeneroval nějaký program.

Jednou z prvních vlaštovek je GLTR – Giant Language model Test Room od výzkumníků z Harvardovy univerzity a laboratoře MIT-IBM Watson Lab. GLTR je už podle svého názvu softwarový detektor falešných textových generátorů.

Klepněte pro větší obrázek
Tento článek napsal člověk. GLTR jej analyzoval a barevně rozlišil, zdali navazující slova odpovídají tomu, jak by je generovaly i neuronové sítě. Pokud ano, jsou zelená, pokud spíše ne, jsou žlutá, červená a fialová. Lidský text je po analýze pestrobarevný.

Ty s pomocí neuronových sítí a zásahu člověka generují obecný souvislý text na libovolné téma, a tak by je mohl kdejaký bot používat třeba k publikování falešných komentářů, hodnocení na e-shopech apod.

Jelikož GLTR ví, o jaké modely neuronových sítí se zpravidla jedná (má přístup i ke špičkovému modelu GPT-2), může sledovat drobné nuance, které jsou pro takový softwarově-konstruovaný text typické. Program poté odhalí, že komentář s největší pravděpodobností vůbec nenapsal člověk.

Klepněte pro větší obrázek
Tentokrát GLTR analyzuje text, který vytvořila neuronová síť OpenAI GPT-2, která patří k naprosté špičce mezi textovými generátory. Jak vidno, GLTR správně odhalil, že prakticky všechna slova navazují podle pravidel neuronových sítí. S vysokou pravděpodobností tedy text napsal robot.

Je možné, že podobné techniky se jednou stanou součástí CAPTCHA – tedy testů, zdali před počítačem zrovna sedí člověk. Facebook, e-shopy a další pak odmítnou příspěvek, o kterém budou přesvědčení, že jej nenapsal člověk z masa a kostí.

Diskuze (1) Další článek: GeForce RTX 2080 Super je nová vylepšená grafika pro náročné. Jak si vede v testech?

Témata článku: Web, Facebook, Umělá inteligence, Strojové učení, Neuronová síť, IBM, Afrika, Síť, Text, Harvardovy, Robot


Určitě si přečtěte



Aktuální číslo časopisu Computer

Velký test Wi-Fi mesh

Nejlepší hodinky pro všechny aktivity

Důležité aplikace na cesty

Jak streamovat video na Twitch