Umělá inteligence | Neuronová síť

Fake news 2.0: OpenAI publikovala nástroj, který píše znepokojivě věrohodné nepravdy

V únoru tohoto roku oznámila nezisková organizace pro výzkum umělé inteligence OpenAI, že vyvinula algoritmus, který dokáže psát věrohodné nepravdivé zprávy a nevyžádané e-maily. Původně však její zástupci tvrdili, že se jedná o příliš nebezpečný nástroj na to, aby ho zcela uvolnili pro veřejnost, proto vydali jen „ořezanou“ verzi.

Nyní však OpenAI otáčí o 180 stupňů s tím, že nezjistila „žádný silný důkaz o zneužití“, a tento týden zveřejnila úplnou verzi svého modelu umělé inteligence. Algoritmus GPT-2 byl původně navržen tak, aby odpovídal na otázky, shrnoval příběhy a překládal texty.

A novináři nebudou mít co jíst!

Výzkumníci se obávali, že by jejich dílo mohlo být zneužito k publikování obrovského množství dezinformací. Místo toho však bylo používáno například pro trénink dobrodružných textových her a psaní příběhů o jednorožcích.

Protože nezachytili žádné pokusy o využití schopností umělé inteligence k nekalým účelům, rozhodli se nakonec vydat úplný model GPT-2. V příspěvku, publikovaném na blogu uvádějí, že doufají, že plná verze pomůže vědcům vyvinout lepší modely detekce textu generovaného pomocí AI. „Uvolňujeme tento model, abychom pomohli studiu výzkumu v detekci syntetického textu,“ píše se v dokumentu.

GPT-2 je součástí nového druhu systémů pro generování textu, které ohromily odborníky svou schopností vytvářet srozumitelný a smysluplný text z minimálních podkladů.  Systém byl vyškolen na osmi milionech dokumentů získaných z webů a reaguje na úryvky textů poskytnuté uživateli. Dokáže například z titulku vymyslet článek nebo z jediného řádku složit celou báseň.

Komu to prospěje?

Představa, že umělá inteligence dokáže hromadně produkovat věrohodně působící nepravdivé zprávy a dezinformace, je z mnoha pochopitelných důvodů zneklidňující. Je ale jisté, že tato technologie jednoho dne vstoupí do našich životů, ať chceme, nebo ne.

Právě z tohoto důvodu byli mnozí odborníci přesvědčeni, že se OpenAI měla o svou práci neprodleně podělit, aby vědci mohli vyvinout nástroje pro boj nebo alespoň detekování textu generovaného boty. Uvolnění modelu je pozoruhodné i s ohledem na probíhající debaty o odpovědnosti expertů na umělou inteligenci za škody způsobené jejich prací.

Pokud si chcete schopnosti modelu GPT-2 od OpenAI vyzkoušet osobně, máte příležitost. Na webu TalkToTransformer.com stačí zadat úryvek textu nebo několik slov a během několika sekund uvidíte výsledek zpracovaný moderní neuronovou sítí.

Diskuze (17) Další článek: Firmy mohou mít na WhatsAppu vlastní e-shopy. Přitom nemusí mít ani web

Témata článku: Věda, Umělá inteligence, Výzkum, Neuronová síť, Strojové učení, Model, Detekce, Nástroj, Inteligence, Text, Nepravdivá zpráva, Úryvek textů, Nepravda, News


Určitě si přečtěte

Co všechno se spouští se startem Windows a proč by vás to mělo zajímat

Co všechno se spouští se startem Windows a proč by vás to mělo zajímat

** Společně s operačním systémem se spouští řada aplikací a služeb ** Mohou mít negativní dopad na celkovou dobu startu Windows ** Jak získat kontrolu nad automaticky spouštěnými programy?

Karel Kilián | 57

Už desítky let se pokoušíme odposlouchávat mozek. Rusům se podařil kousek, ze kterého vám spadne brada

Už desítky let se pokoušíme odposlouchávat mozek. Rusům se podařil kousek, ze kterého vám spadne brada

** K odposlechu mozků používáme EEG ** To má ale žalostné informační rozlišení ** Rusům pomohla počítačová neuronová síť

Jakub Čížek | 28

Google dosáhl revolučního milníku v kvantové nadvládě. IBM ale nesouhlasí

Google dosáhl revolučního milníku v kvantové nadvládě. IBM ale nesouhlasí

** Google představil nový kvantový čip s 53 qubity ** Oznámil, že díky němu lidstvo poprvé dosáhlo kvantové nadvlády ** IBM toto tvrzení zlehčuje

Karel Javůrek | 15

Pojďme programovat elektroniku: České chytré zásuvky Netio pro kutily i firmy

Pojďme programovat elektroniku: České chytré zásuvky Netio pro kutily i firmy

** Wi-Fi zásuvky nevyrábí pouze Čína ** Vyzkoušeli jsme českou Netio PowerCable ** Je přímo určená pro vývojáře, má totiž jednoduché JSON API

Jakub Čížek | 43

Jak funguje kontroverzní program, který ženám krade plavky. Mají se čeho bát?

Jak funguje kontroverzní program, který ženám krade plavky. Mají se čeho bát?

** Strojové učení ještě nepřitáhlo takový zájem jako na začátku prázdnin ** Ne, umělá inteligence nenašla lék na rakovinu ** Naučila se svlékat ženy nejen z plavek

Jakub Čížek | 35

Jak doma vylepšit signál Wi-Fi: Pomůže repeater, více routerů, ale nejlépe systémy mesh

Jak doma vylepšit signál Wi-Fi: Pomůže repeater, více routerů, ale nejlépe systémy mesh

** Máte špatný signál Wi-Fi? Mesh systémy to vyřeší ** Už vás nezruinují, meziročně ceny příjemně spadly ** Jak systém funguje a čím je výjimečný?

Jiří Kuruc | 106

Biblická potopa Česka: Jak bychom dopadli, kdyby nás zatopil oceán

Biblická potopa Česka: Jak bychom dopadli, kdyby nás zatopil oceán

** Představte si biblickou potopu ** Nejprve zaniknou Děčín a Břeclav, pak i Brno a Praha ** Hlavním městem se stane Jihlava a zbytky Čechů přežijí na Kvildě

Jakub Čížek | 92


Aktuální číslo časopisu Computer

Megatest 20 procesorů

Srovnání 15 True Wireless sluchátek

Vyplatí se tisknout fotografie doma?

Vybíráme nejlepší základní desky