Umělá inteligence | Neuronová síť

Fake news 2.0: OpenAI publikovala nástroj, který píše znepokojivě věrohodné nepravdy

V únoru tohoto roku oznámila nezisková organizace pro výzkum umělé inteligence OpenAI, že vyvinula algoritmus, který dokáže psát věrohodné nepravdivé zprávy a nevyžádané e-maily. Původně však její zástupci tvrdili, že se jedná o příliš nebezpečný nástroj na to, aby ho zcela uvolnili pro veřejnost, proto vydali jen „ořezanou“ verzi.

Nyní však OpenAI otáčí o 180 stupňů s tím, že nezjistila „žádný silný důkaz o zneužití“, a tento týden zveřejnila úplnou verzi svého modelu umělé inteligence. Algoritmus GPT-2 byl původně navržen tak, aby odpovídal na otázky, shrnoval příběhy a překládal texty.

A novináři nebudou mít co jíst!

Výzkumníci se obávali, že by jejich dílo mohlo být zneužito k publikování obrovského množství dezinformací. Místo toho však bylo používáno například pro trénink dobrodružných textových her a psaní příběhů o jednorožcích.

Protože nezachytili žádné pokusy o využití schopností umělé inteligence k nekalým účelům, rozhodli se nakonec vydat úplný model GPT-2. V příspěvku, publikovaném na blogu uvádějí, že doufají, že plná verze pomůže vědcům vyvinout lepší modely detekce textu generovaného pomocí AI. „Uvolňujeme tento model, abychom pomohli studiu výzkumu v detekci syntetického textu,“ píše se v dokumentu.

GPT-2 je součástí nového druhu systémů pro generování textu, které ohromily odborníky svou schopností vytvářet srozumitelný a smysluplný text z minimálních podkladů.  Systém byl vyškolen na osmi milionech dokumentů získaných z webů a reaguje na úryvky textů poskytnuté uživateli. Dokáže například z titulku vymyslet článek nebo z jediného řádku složit celou báseň.

Komu to prospěje?

Představa, že umělá inteligence dokáže hromadně produkovat věrohodně působící nepravdivé zprávy a dezinformace, je z mnoha pochopitelných důvodů zneklidňující. Je ale jisté, že tato technologie jednoho dne vstoupí do našich životů, ať chceme, nebo ne.

Právě z tohoto důvodu byli mnozí odborníci přesvědčeni, že se OpenAI měla o svou práci neprodleně podělit, aby vědci mohli vyvinout nástroje pro boj nebo alespoň detekování textu generovaného boty. Uvolnění modelu je pozoruhodné i s ohledem na probíhající debaty o odpovědnosti expertů na umělou inteligenci za škody způsobené jejich prací.

Pokud si chcete schopnosti modelu GPT-2 od OpenAI vyzkoušet osobně, máte příležitost. Na webu TalkToTransformer.com stačí zadat úryvek textu nebo několik slov a během několika sekund uvidíte výsledek zpracovaný moderní neuronovou sítí.

Diskuze (17) Další článek: Firmy mohou mít na WhatsAppu vlastní e-shopy. Přitom nemusí mít ani web

Témata článku: Věda, Výzkum, Umělá inteligence, Strojové učení, Neuronová síť, Text, Nepravda, Nepravdivá zpráva, Inteligence, News, Detekce, Žně, Úryvek textů, New, Nástroj, Model


Určitě si přečtěte

Koupili jsme nejlevnější dron s kamerou. Stál nás 300 Kč a má rozměry kreditky

Koupili jsme nejlevnější dron s kamerou. Stál nás 300 Kč a má rozměry kreditky

** Kvalitní drony začínají na 10 000 Kč ** Šli jsme na to jinak a koupili ten nejlevnější s kamerou ** I když je to čínský šmejd, je s ním zábava

Jakub Čížek | 35

Výkon herního počítače za 139 Kč nebo i úplně zadarmo. Geforce Now startuje!

Výkon herního počítače za 139 Kč nebo i úplně zadarmo. Geforce Now startuje!

** Dlouhý betatest končí a nyní všichni mohou hrát přes internet ** Nemusíte žádné hry kupovat znovu. Jede to, co už máte v knihovnách na Steamu, Uplay, Battle.net a jinde ** Roční náklady odpovídají ceně jedné běžné hry

Tomáš Holčík | 53

10 skrytých nastavení prohlížeče Google Chrome, která se můžou hodit

10 skrytých nastavení prohlížeče Google Chrome, která se můžou hodit

** Prohlížeč Google Chrome ukrývá mnoho zajímavých možností ** Našli jsme deset nejzajímavějších skrytých nastavení ** Můžete si například výrazně vylepšit práci s kartami

Karel Kilián | 18

37 nejstrašnějších počítačů, které jste kdy viděli

37 nejstrašnějších počítačů, které jste kdy viděli

** Přehled nejhorších počítačů na světě ** Šílené konstrukce a materiály ** Jak to dopadne, když se o počítač nestaráte

Karel Javůrek | 24

Vyzkoušeli jsme TP-Link Deco P9: zajistí doma Wi-Fi díky drátům ve zdi

Vyzkoušeli jsme TP-Link Deco P9: zajistí doma Wi-Fi díky drátům ve zdi

** Nová generace Mesh Wi-Fi s propojením přes elektrické rozvody ** Lepší parametry a nižší cena než u předchůdce ** Aplikace zatím podporuje jen základní nastavení bez rozšířených funkcí

Tomáš Holčík | 25



Aktuální číslo časopisu Computer

Velký test autokamer

Test ATX skříní

Jak surfovat pohodlně

Sportovní aplikace

Jak funguje procesor