Umělá inteligence | Strojové učení | Neuronová síť

Neuronová síť GLTR dokáže odhalit, jestli text napsal člověk, nebo robot

Neuronová síť GLTR dokáže odhalit, jestli text napsal člověk, nebo robot

Neuronové sítě jsou stále schopnější v generování falešných dat počínaje textem a konče obrazem. Dnes sice ještě fikci od reality poznáme, během několika let to ale bude pro člověka naprosto nemožné.

Na scénu proto musí přijít neuronové sítě s opačným účelem. Namísto generování fiktivních informací budou zjišťovat, jestli tu kontroverzní fotografii šířící se Facebookem opravdu vyfotil reportér kdesi v Africe, anebo ji s pixelovou přesností vygeneroval nějaký program.

Jednou z prvních vlaštovek je GLTR – Giant Language model Test Room od výzkumníků z Harvardovy univerzity a laboratoře MIT-IBM Watson Lab. GLTR je už podle svého názvu softwarový detektor falešných textových generátorů.

Klepněte pro větší obrázek
Tento článek napsal člověk. GLTR jej analyzoval a barevně rozlišil, zdali navazující slova odpovídají tomu, jak by je generovaly i neuronové sítě. Pokud ano, jsou zelená, pokud spíše ne, jsou žlutá, červená a fialová. Lidský text je po analýze pestrobarevný.

Ty s pomocí neuronových sítí a zásahu člověka generují obecný souvislý text na libovolné téma, a tak by je mohl kdejaký bot používat třeba k publikování falešných komentářů, hodnocení na e-shopech apod.

Jelikož GLTR ví, o jaké modely neuronových sítí se zpravidla jedná (má přístup i ke špičkovému modelu GPT-2), může sledovat drobné nuance, které jsou pro takový softwarově-konstruovaný text typické. Program poté odhalí, že komentář s největší pravděpodobností vůbec nenapsal člověk.

Klepněte pro větší obrázek
Tentokrát GLTR analyzuje text, který vytvořila neuronová síť OpenAI GPT-2, která patří k naprosté špičce mezi textovými generátory. Jak vidno, GLTR správně odhalil, že prakticky všechna slova navazují podle pravidel neuronových sítí. S vysokou pravděpodobností tedy text napsal robot.

Je možné, že podobné techniky se jednou stanou součástí CAPTCHA – tedy testů, zdali před počítačem zrovna sedí člověk. Facebook, e-shopy a další pak odmítnou příspěvek, o kterém budou přesvědčení, že jej nenapsal člověk z masa a kostí.

Diskuze (1) Další článek: GeForce RTX 2080 Super je nová vylepšená grafika pro náročné. Jak si vede v testech?

Témata článku: Web, Facebook, Umělá inteligence, Strojové učení, IBM, Neuronová síť, Afrika, Síť, Robot, GPT, Text, Harvardovy


Určitě si přečtěte

Ubuntu 20.04: Zase vás chce přesvědčit, že je lepší než Windows

Ubuntu 20.04: Zase vás chce přesvědčit, že je lepší než Windows

** Britský Canonical před pár dny vydal novou verzi svého Ubuntu ** 20.04 LTS zapracovalo na grafickém desktopu, rychlosti i bezpečnosti ** V nitru tepe Linux 5.4 a volitelně i nový souborový systém

Jakub Čížek | 122

Za hranicemi Chromu: 13 nejzajímavějších prohlížečů, které „nikdo“ nepoužívá

Za hranicemi Chromu: 13 nejzajímavějších prohlížečů, které „nikdo“ nepoužívá

** Šesti nejpoužívanějším prohlížečům patří 94 % trhu ** Různé „klony“ Chromu slibují lepší funkce nebo jiný design ** Také Firefox má řadu zajímavých odnoží

Lukáš Václavík | 38

Podívejte se na Windows z roku 1990. Před 30 lety přišly Windows 3.0 a líbily se nám

Podívejte se na Windows z roku 1990. Před 30 lety přišly Windows 3.0 a líbily se nám

** 22. května 1990 uvedl Microsoft Windows 3.0 ** Systém z Microsoftu definitivně udělal lídra na desktopu ** Tehdejší Windows byly vlastně grafickou nadstavbou nad MS-DOS

Jakub Čížek | 76

Nejlepší programy z roku 2000: Podívejte se, bez čeho jste tehdy vůbec nemohli fungovat!

Nejlepší programy z roku 2000: Podívejte se, bez čeho jste tehdy vůbec nemohli fungovat!

** Dnes už skoro všechno uděláte ve webovém prohlížeči a na mobilu ** Před dvaceti lety to ale bylo jiné ** Zavzpomínejte na legendy, které jste pravděpodobně také používali

Jakub Čížek | 123

Velká datová loupež. Proč mají disky nižší kapacitu, než uvádějí?

Velká datová loupež. Proč mají disky nižší kapacitu, než uvádějí?

** Na disk nikdy neuložíte tolik dat, jak tvrdí výrobce ** Ajťáci si vymysleli vlastní jednotky jako mebibajt ** Zmatky vznikají i kvůli různým výjimkám

Lukáš Václavík | 105


Aktuální číslo časopisu Computer

Megatest SSD s kapacitou 1 TB

Srovnávací test robotických vysavačů

Vybíráme nejlepší telefony na trhu

Jak zlepšit zvuk televize