Umělá inteligence | Neuronová síť

Fake news 2.0: OpenAI publikovala nástroj, který píše znepokojivě věrohodné nepravdy

V únoru tohoto roku oznámila nezisková organizace pro výzkum umělé inteligence OpenAI, že vyvinula algoritmus, který dokáže psát věrohodné nepravdivé zprávy a nevyžádané e-maily. Původně však její zástupci tvrdili, že se jedná o příliš nebezpečný nástroj na to, aby ho zcela uvolnili pro veřejnost, proto vydali jen „ořezanou“ verzi.

Nyní však OpenAI otáčí o 180 stupňů s tím, že nezjistila „žádný silný důkaz o zneužití“, a tento týden zveřejnila úplnou verzi svého modelu umělé inteligence. Algoritmus GPT-2 byl původně navržen tak, aby odpovídal na otázky, shrnoval příběhy a překládal texty.

A novináři nebudou mít co jíst!

Výzkumníci se obávali, že by jejich dílo mohlo být zneužito k publikování obrovského množství dezinformací. Místo toho však bylo používáno například pro trénink dobrodružných textových her a psaní příběhů o jednorožcích.

Protože nezachytili žádné pokusy o využití schopností umělé inteligence k nekalým účelům, rozhodli se nakonec vydat úplný model GPT-2. V příspěvku, publikovaném na blogu uvádějí, že doufají, že plná verze pomůže vědcům vyvinout lepší modely detekce textu generovaného pomocí AI. „Uvolňujeme tento model, abychom pomohli studiu výzkumu v detekci syntetického textu,“ píše se v dokumentu.

GPT-2 je součástí nového druhu systémů pro generování textu, které ohromily odborníky svou schopností vytvářet srozumitelný a smysluplný text z minimálních podkladů.  Systém byl vyškolen na osmi milionech dokumentů získaných z webů a reaguje na úryvky textů poskytnuté uživateli. Dokáže například z titulku vymyslet článek nebo z jediného řádku složit celou báseň.

Komu to prospěje?

Představa, že umělá inteligence dokáže hromadně produkovat věrohodně působící nepravdivé zprávy a dezinformace, je z mnoha pochopitelných důvodů zneklidňující. Je ale jisté, že tato technologie jednoho dne vstoupí do našich životů, ať chceme, nebo ne.

Právě z tohoto důvodu byli mnozí odborníci přesvědčeni, že se OpenAI měla o svou práci neprodleně podělit, aby vědci mohli vyvinout nástroje pro boj nebo alespoň detekování textu generovaného boty. Uvolnění modelu je pozoruhodné i s ohledem na probíhající debaty o odpovědnosti expertů na umělou inteligenci za škody způsobené jejich prací.

Pokud si chcete schopnosti modelu GPT-2 od OpenAI vyzkoušet osobně, máte příležitost. Na webu TalkToTransformer.com stačí zadat úryvek textu nebo několik slov a během několika sekund uvidíte výsledek zpracovaný moderní neuronovou sítí.

Diskuze (17) Další článek: Firmy mohou mít na WhatsAppu vlastní e-shopy. Přitom nemusí mít ani web

Témata článku: Umělá inteligence, Věda, Výzkum, Strojové učení, Neuronová síť, News +, GPT, News, Žně, Detekce, New, Kter, Inteligence, Úryvek textu, Nástroj, Úryvek textů, Model, Nepravdivá zpráva, Text, Nepravda



Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

Sex manželských párů? Jen výjimečně. Ložnice ovládnou roboti s umělou inteligencí

** Sex manželských párů jen při zvláštních příležitostech. ** Ložnice ovládnou sexuální roboti s umělou inteligencí. ** I to je jeden ze závěrů Mezinárodní robotické konference.

Filip KůželJiří Liebreich
RobotiSexUmělá inteligence
Nový hit. Tahle appka vám udělá profilovku jako od pouličního ilustrátora

Nový hit. Tahle appka vám udělá profilovku jako od pouličního ilustrátora

** Aplikace NewProfilePic se na Androidu stala hitem ** Můžete si v ní vytvořit profesionálně vypadající profilovky ** Pozor ale na agresivní cenovou politiku za Pro verzi

Martin Chroust
FotografieUmělá inteligenceMobilní aplikace
25 nejlepších filmových parodií, které můžete vidět. Víme, kde je najdete online

25 nejlepších filmových parodií, které můžete vidět. Víme, kde je najdete online

Filmové parodie jsou divácky velmi vděčné a mezi filmaři oblíbené. Tvůrci v nich mohou totiž zcela beztrestně vykrádat cizí díla a v jejich nápodobě popustit uzdu své fantazii. Vybrali jsme nejlepší zahraniční i české parodie.

Jaromír PukMarek Čech
Filmy, které musíte vidět
Nejlepší aplikace pro tento týden: Lenivé kosti, topografické mapy a preventivka

Nejlepší aplikace pro tento týden: Lenivé kosti, topografické mapy a preventivka

**V marketech najdete množství titulů, ale jak objevit ty kvalitní? **Každý týden je vybírá Apple, ale řada z nich má i verzi pro Android. **Výsledkem jsou kolekce těch nejlepších aplikací svého druhu.

Adam Kos
Nejlepší aplikace
Munice ze zrušeného railgunu se postaví střelám s plochou dráhou letu

Munice ze zrušeného railgunu se postaví střelám s plochou dráhou letu

** Americké letectvo chce v nejbližší době postavit a otestovat prototyp nového samohybného děla ** To by mělo být schopné sestřelovat střely s plochou dráhou letu ** Při tom bude využívat munici určenou původně pro railgun

Stanislav Mihulka
VojenstvíUSA
Přehledně: Ceny drahých grafik v Česku výrazně padají, hlavní důvody teprve přijdou

Přehledně: Ceny drahých grafik v Česku výrazně padají, hlavní důvody teprve přijdou

** Ceny karet se začínají přibližovat těm stanoveným AMD a Nvidií ** V nižších třídách se už vyplatí grafiky koupit ** U high-endu je ale rozumnější chvíli počkat na novou generaci

Jan Pánek
Cenový přehled
Zní to až neskutečně. Huawei zřejmě našel způsob, jak telefonům dodatečně přidat podporu 5G

Zní to až neskutečně. Huawei zřejmě našel způsob, jak telefonům dodatečně přidat podporu 5G

** Huawei už třetím rokem trpí pod americkými sankcemi ** Značka sice může používat americké procesory, ale bez podpory 5G ** Jak obejít sankce? Co třeba doplňkovým krytem s 5G modemem?

Martin Chroust
5GObaly a pouzdra