Fake news 2.0: OpenAI publikovala nástroj, který píše znepokojivě věrohodné nepravdy

V únoru tohoto roku oznámila nezisková organizace pro výzkum umělé inteligence OpenAI, že vyvinula algoritmus, který dokáže psát věrohodné nepravdivé zprávy a nevyžádané e-maily. Původně však její zástupci tvrdili, že se jedná o příliš nebezpečný nástroj na to, aby ho zcela uvolnili pro veřejnost, proto vydali jen „ořezanou“ verzi.

Nyní však OpenAI otáčí o 180 stupňů s tím, že nezjistila „žádný silný důkaz o zneužití“, a tento týden zveřejnila úplnou verzi svého modelu umělé inteligence. Algoritmus GPT-2 byl původně navržen tak, aby odpovídal na otázky, shrnoval příběhy a překládal texty.

A novináři nebudou mít co jíst!

Výzkumníci se obávali, že by jejich dílo mohlo být zneužito k publikování obrovského množství dezinformací. Místo toho však bylo používáno například pro trénink dobrodružných textových her a psaní příběhů o jednorožcích.

Protože nezachytili žádné pokusy o využití schopností umělé inteligence k nekalým účelům, rozhodli se nakonec vydat úplný model GPT-2. V příspěvku, publikovaném na blogu uvádějí, že doufají, že plná verze pomůže vědcům vyvinout lepší modely detekce textu generovaného pomocí AI. „Uvolňujeme tento model, abychom pomohli studiu výzkumu v detekci syntetického textu,“ píše se v dokumentu.

GPT-2 je součástí nového druhu systémů pro generování textu, které ohromily odborníky svou schopností vytvářet srozumitelný a smysluplný text z minimálních podkladů.  Systém byl vyškolen na osmi milionech dokumentů získaných z webů a reaguje na úryvky textů poskytnuté uživateli. Dokáže například z titulku vymyslet článek nebo z jediného řádku složit celou báseň.

Komu to prospěje?

Představa, že umělá inteligence dokáže hromadně produkovat věrohodně působící nepravdivé zprávy a dezinformace, je z mnoha pochopitelných důvodů zneklidňující. Je ale jisté, že tato technologie jednoho dne vstoupí do našich životů, ať chceme, nebo ne.

Právě z tohoto důvodu byli mnozí odborníci přesvědčeni, že se OpenAI měla o svou práci neprodleně podělit, aby vědci mohli vyvinout nástroje pro boj nebo alespoň detekování textu generovaného boty. Uvolnění modelu je pozoruhodné i s ohledem na probíhající debaty o odpovědnosti expertů na umělou inteligenci za škody způsobené jejich prací.

Pokud si chcete schopnosti modelu GPT-2 od OpenAI vyzkoušet osobně, máte příležitost. Na webu TalkToTransformer.com stačí zadat úryvek textu nebo několik slov a během několika sekund uvidíte výsledek zpracovaný moderní neuronovou sítí.

Diskuze (17) Další článek: Firmy mohou mít na WhatsAppu vlastní e-shopy. Přitom nemusí mít ani web

Témata článku: Věda, Umělá inteligence, Výzkum, Strojové učení, Neuronová síť, News, Text, New, Inteligence, Nástroj, Nepravda, News +, Úryvek textů, Detekce, GPT, Nepravdivá zpráva, Žně, Model


Určitě si přečtěte

Technici nestíhají. Cetin dočasně přerušil zavádění VDSL bondingu
Lukáš Václavík
CETINPřipojení k internetu
Chytré hodinky Honor a Huawei se zbavily největší brzdy. Naučily se instalovat aplikace
Filip Kůžel
HonorHodinkyMobilní aplikace
Windows 10 vylepšují správu aktualizací ovladačů hardwarových komponent počítače
Karel Kilián
OvladačeWindows UpdateWindows 10
Čím nahradit WhatsApp: Vyberte si z 10 alternativních komunikátorů

Čím nahradit WhatsApp: Vyberte si z 10 alternativních komunikátorů

** Z WhatsAppu kvůli novým podmínkám utíkají tisíce uživatelů ** Čím nahradit populární aplikaci pro zasílání zpráv? ** Vybrali jsme pro vás 10 alternativních komunikátorů

Karel Kilián | 112

Karel Kilián
KomunikaceWhatsAppInstant Messaging
Dostali jste nový počítač? Tohle s ním udělejte, než ho začnete používat

Dostali jste nový počítač? Tohle s ním udělejte, než ho začnete používat

** Každý nový počítač si zaslouží počáteční péči ** Odinstalujte bloatware a nezapomeňte na vhodné nastavení ** Poradíme, jak se o počítač s Windows 10 postarat

David Polesný, Stanislav Janů | 75

David PolesnýStanislav Janů
PočítačeNotebooky
Týden Živě: On fakt dnes ještě někdo stahuje filmy z Ulož.to?

Týden Živě: On fakt dnes ještě někdo stahuje filmy z Ulož.to?

** Kauza Ulož.to a proč my dva už (moc) newarezíme ** Windows 10X existují, ale nabízí se otázka proč ** Nissan ukázal vizi kanceláře v podobě karavanu

Jakub Čížek, Vladislav Kluska | 152

Jakub ČížekVladislav Kluska
Týden ŽivěVideo
Japonská MANA může být 80× výkonnější než sebelepší tranzistorový procesor

Japonská MANA může být 80× výkonnější než sebelepší tranzistorový procesor

** Tranzistory současných počítačů vyzařují při přepínání teplo ** Na Tokijské univerzitě proto vyvíjejí adiabatické procesory ** Využívají supravodivost a jsou 80× úspornější

Jakub Čížek | 48

Jakub Čížek
TranzistoryProcesoryTechnologie