Umělá inteligence | Neuronová síť | Strojové učení

Neuronová síť GLTR dokáže odhalit, jestli text napsal člověk, nebo robot

Neuronové sítě jsou stále schopnější v generování falešných dat počínaje textem a konče obrazem. Dnes sice ještě fikci od reality poznáme, během několika let to ale bude pro člověka naprosto nemožné.

Na scénu proto musí přijít neuronové sítě s opačným účelem. Namísto generování fiktivních informací budou zjišťovat, jestli tu kontroverzní fotografii šířící se Facebookem opravdu vyfotil reportér kdesi v Africe, anebo ji s pixelovou přesností vygeneroval nějaký program.

Jednou z prvních vlaštovek je GLTR – Giant Language model Test Room od výzkumníků z Harvardovy univerzity a laboratoře MIT-IBM Watson Lab. GLTR je už podle svého názvu softwarový detektor falešných textových generátorů.

783a1666-867f-4a57-a01b-35aee008b9d4
Tento článek napsal člověk. GLTR jej analyzoval a barevně rozlišil, zdali navazující slova odpovídají tomu, jak by je generovaly i neuronové sítě. Pokud ano, jsou zelená, pokud spíše ne, jsou žlutá, červená a fialová. Lidský text je po analýze pestrobarevný.

Ty s pomocí neuronových sítí a zásahu člověka generují obecný souvislý text na libovolné téma, a tak by je mohl kdejaký bot používat třeba k publikování falešných komentářů, hodnocení na e-shopech apod.

Jelikož GLTR ví, o jaké modely neuronových sítí se zpravidla jedná (má přístup i ke špičkovému modelu GPT-2), může sledovat drobné nuance, které jsou pro takový softwarově-konstruovaný text typické. Program poté odhalí, že komentář s největší pravděpodobností vůbec nenapsal člověk.

255fd5fa-b289-42b7-858b-46bc117d57b1
Tentokrát GLTR analyzuje text, který vytvořila neuronová síť OpenAI GPT-2, která patří k naprosté špičce mezi textovými generátory. Jak vidno, GLTR správně odhalil, že prakticky všechna slova navazují podle pravidel neuronových sítí. S vysokou pravděpodobností tedy text napsal robot.

Je možné, že podobné techniky se jednou stanou součástí CAPTCHA – tedy testů, zdali před počítačem zrovna sedí člověk. Facebook, e-shopy a další pak odmítnou příspěvek, o kterém budou přesvědčení, že jej nenapsal člověk z masa a kostí.

Diskuze (1) Další článek: GeForce RTX 2080 Super je nová vylepšená grafika pro náročné. Jak si vede v testech?

Témata článku: , , , , , , , , , , , , ,