Umělá inteligence | Strojové učení | Neuronová síť

Neuronová síť GLTR dokáže odhalit, jestli text napsal člověk, nebo robot

Neuronová síť GLTR dokáže odhalit, jestli text napsal člověk, nebo robot

Neuronové sítě jsou stále schopnější v generování falešných dat počínaje textem a konče obrazem. Dnes sice ještě fikci od reality poznáme, během několika let to ale bude pro člověka naprosto nemožné.

Na scénu proto musí přijít neuronové sítě s opačným účelem. Namísto generování fiktivních informací budou zjišťovat, jestli tu kontroverzní fotografii šířící se Facebookem opravdu vyfotil reportér kdesi v Africe, anebo ji s pixelovou přesností vygeneroval nějaký program.

Jednou z prvních vlaštovek je GLTR – Giant Language model Test Room od výzkumníků z Harvardovy univerzity a laboratoře MIT-IBM Watson Lab. GLTR je už podle svého názvu softwarový detektor falešných textových generátorů.

Klepněte pro větší obrázek
Tento článek napsal člověk. GLTR jej analyzoval a barevně rozlišil, zdali navazující slova odpovídají tomu, jak by je generovaly i neuronové sítě. Pokud ano, jsou zelená, pokud spíše ne, jsou žlutá, červená a fialová. Lidský text je po analýze pestrobarevný.

Ty s pomocí neuronových sítí a zásahu člověka generují obecný souvislý text na libovolné téma, a tak by je mohl kdejaký bot používat třeba k publikování falešných komentářů, hodnocení na e-shopech apod.

Jelikož GLTR ví, o jaké modely neuronových sítí se zpravidla jedná (má přístup i ke špičkovému modelu GPT-2), může sledovat drobné nuance, které jsou pro takový softwarově-konstruovaný text typické. Program poté odhalí, že komentář s největší pravděpodobností vůbec nenapsal člověk.

Klepněte pro větší obrázek
Tentokrát GLTR analyzuje text, který vytvořila neuronová síť OpenAI GPT-2, která patří k naprosté špičce mezi textovými generátory. Jak vidno, GLTR správně odhalil, že prakticky všechna slova navazují podle pravidel neuronových sítí. S vysokou pravděpodobností tedy text napsal robot.

Je možné, že podobné techniky se jednou stanou součástí CAPTCHA – tedy testů, zdali před počítačem zrovna sedí člověk. Facebook, e-shopy a další pak odmítnou příspěvek, o kterém budou přesvědčení, že jej nenapsal člověk z masa a kostí.

Diskuze (1) Další článek: GeForce RTX 2080 Super je nová vylepšená grafika pro náročné. Jak si vede v testech?

Témata článku: Web, Facebook, Umělá inteligence, síť, Strojové učení, IBM, Neuronová síť, Afrika, Text, Harvardovy, Robot


Určitě si přečtěte

Jak funguje kontroverzní program, který ženám krade plavky. Mají se čeho bát?

Jak funguje kontroverzní program, který ženám krade plavky. Mají se čeho bát?

** Strojové učení ještě nepřitáhlo takový zájem jako na začátku prázdnin ** Ne, umělá inteligence nenašla lék na rakovinu ** Naučila se svlékat ženy nejen z plavek

Jakub Čížek | 35

10 mýtů a polopravd o bateriích, kterým možná ještě věříte

10 mýtů a polopravd o bateriích, kterým možná ještě věříte

** Kolem baterií a akumulátorů koluje řada mýtů, nepravd a polopravd ** Dnes vám devět z nich zkusíme vyvrátit na základě faktů ** Většina z nich totiž neplatí pro moderní lithiové baterie

Karel Kilián, David Polesný | 102

Pojďme programovat elektroniku: Rádiový čip, který má skoro každá bezdrátová myš

Pojďme programovat elektroniku: Rádiový čip, který má skoro každá bezdrátová myš

** Bezdrátové myši řídí čip od Nordic Semiconductors ** Jeho rádiové vysílače si před lety oblíbila i komunita kutilů ** Dnes si je vyzkoušíme v praxi

Jakub Čížek | 9



Aktuální číslo časopisu Computer

Test 9 bezdrátových reproduktorů

Jak ovládnout Instagram

Test levných 27" herních monitorů

Jak se zbavit nepotřebných věcí na internetu