Umělá inteligence | Neuronová síť

Fake news 2.0: OpenAI publikovala nástroj, který píše znepokojivě věrohodné nepravdy

V únoru tohoto roku oznámila nezisková organizace pro výzkum umělé inteligence OpenAI, že vyvinula algoritmus, který dokáže psát věrohodné nepravdivé zprávy a nevyžádané e-maily. Původně však její zástupci tvrdili, že se jedná o příliš nebezpečný nástroj na to, aby ho zcela uvolnili pro veřejnost, proto vydali jen „ořezanou“ verzi.

Nyní však OpenAI otáčí o 180 stupňů s tím, že nezjistila „žádný silný důkaz o zneužití“, a tento týden zveřejnila úplnou verzi svého modelu umělé inteligence. Algoritmus GPT-2 byl původně navržen tak, aby odpovídal na otázky, shrnoval příběhy a překládal texty.

A novináři nebudou mít co jíst!

Výzkumníci se obávali, že by jejich dílo mohlo být zneužito k publikování obrovského množství dezinformací. Místo toho však bylo používáno například pro trénink dobrodružných textových her a psaní příběhů o jednorožcích.

Protože nezachytili žádné pokusy o využití schopností umělé inteligence k nekalým účelům, rozhodli se nakonec vydat úplný model GPT-2. V příspěvku, publikovaném na blogu uvádějí, že doufají, že plná verze pomůže vědcům vyvinout lepší modely detekce textu generovaného pomocí AI. „Uvolňujeme tento model, abychom pomohli studiu výzkumu v detekci syntetického textu,“ píše se v dokumentu.

GPT-2 je součástí nového druhu systémů pro generování textu, které ohromily odborníky svou schopností vytvářet srozumitelný a smysluplný text z minimálních podkladů.  Systém byl vyškolen na osmi milionech dokumentů získaných z webů a reaguje na úryvky textů poskytnuté uživateli. Dokáže například z titulku vymyslet článek nebo z jediného řádku složit celou báseň.

Komu to prospěje?

Představa, že umělá inteligence dokáže hromadně produkovat věrohodně působící nepravdivé zprávy a dezinformace, je z mnoha pochopitelných důvodů zneklidňující. Je ale jisté, že tato technologie jednoho dne vstoupí do našich životů, ať chceme, nebo ne.

Právě z tohoto důvodu byli mnozí odborníci přesvědčeni, že se OpenAI měla o svou práci neprodleně podělit, aby vědci mohli vyvinout nástroje pro boj nebo alespoň detekování textu generovaného boty. Uvolnění modelu je pozoruhodné i s ohledem na probíhající debaty o odpovědnosti expertů na umělou inteligenci za škody způsobené jejich prací.

Pokud si chcete schopnosti modelu GPT-2 od OpenAI vyzkoušet osobně, máte příležitost. Na webu TalkToTransformer.com stačí zadat úryvek textu nebo několik slov a během několika sekund uvidíte výsledek zpracovaný moderní neuronovou sítí.

Diskuze (17) Další článek: Firmy mohou mít na WhatsAppu vlastní e-shopy. Přitom nemusí mít ani web

Témata článku: Věda, Umělá inteligence, Výzkum, Strojové učení, Neuronová síť, News, Úryvek textů, Text, Inteligence, Nepravdivá zpráva, Nástroj, Detekce, Nepravda, Model


Určitě si přečtěte

Vyzkoušeli jsme chytrou čínskou zásuvku Sonoff S26 za tři stovky. Nevyhořeli jsme

Vyzkoušeli jsme chytrou čínskou zásuvku Sonoff S26 za tři stovky. Nevyhořeli jsme

** Je sice z Aliexpressu, ale funguje ** Můžete ji ovládat hlasem přes Amazon Echo nebo Google Home ** Za tři stovky zautomatizuje menší 230V spotřebič

Jakub Čížek | 101

Nové iPhony, hodinky a další novinky Applu: Zase bude za co utrácet

Nové iPhony, hodinky a další novinky Applu: Zase bude za co utrácet

Dnes proběhla další velká prezentační akce Applu, na které došlo k odhalení nových iPhonů a dalších novinek. Událost jsme sledovali online, a tak se můžete podívat na chronologický zápis těch nejdůležitějších informací.

David Polesný | 136

3D tisk pro naprosté zelenáče: Co vyrobíte na laciném stroji za pár tisíc korun

3D tisk pro naprosté zelenáče: Co vyrobíte na laciném stroji za pár tisíc korun

** Domácí 3D tisk je dnes už finančně dostupný prakticky všem ** Lacinou tiskárnu pořídíte za pár tisíc korun ** Jak vlastně tisk probíhá a jak navrhnout, co vytisknout

Jakub Čížek | 66


Aktuální číslo časopisu Computer

Megatest 20 procesorů

Srovnání 15 True Wireless sluchátek

Vyplatí se tisknout fotografie doma?

Vybíráme nejlepší základní desky