Umělá inteligence | OpenAI

Magazín Cnet potají nechával umělou inteligenci psát články. Několikrát se spletla

  • Cnet zakrýval fakt, že pro něj umělá inteligence píše články.
  • Umělá inteligence se v textech několikrát významně spletla.
  • Všichni teď čelíme obrovským výzvám. Platí to i pro vyhledávače.

Umělá inteligence nám před koncem roku 2022 ukázala, že časem zastane některá povolání. Jak moc je to otázka budoucnosti? Určitým střípkem do skládačky je případ Cnetu, velkého amerického webového magazínu o technologiích. Jak se ukázalo, některé články pro něj píše umělá inteligence. A několikrát chybovala.

Případ má více rovin. První je etická – Cnet částečně skrýval fakt, že články napsala umělá inteligence. Zřejmě jako první si toho 11. ledna všiml Gael Breton, specialista na digitální marketing a SEO. Odhalil, že počítač napsal více než sedm desítek článků. Čtenáři a čtenářky se to ale lehce nedozví.

U článku je uvedeno jméno lidského editora či editorky a autorství připadlo generickému Cnet Money Staff. Anglický výraz staff se používá pro označení zaměstnanců nebo personálu. Kdyby vás napadlo na tohle označení klepnout, dozvěděli byste se z informačního panelu, že článek napsala blíže nespecifikovaná umělá inteligence. Člověk text editoval a ověřil fakta.

Výraz staff byl značně zavádějící, přičemž Cnet ani jinou formou neoznámil, že by s používáním umělé inteligence začal. Později webový magazín výraz v reakci na kritiku vyškrtl, takže je autorská označené jako Cnet Money a na začátku článku je uvedeno, že AI s napsáním pomáhala: „This article was assisted by an AI engine and reviewed, fact-checked and edited by our editorial staff.“

Chybující entita

Další rovinu představuje faktická správnost. Všechny články, které napsala umělá inteligence, spadají se oblasti financí. Proto ostatně Cnet Money. Ke dni vzniku toho článku už počítač napsal skoro 80 článků, přičemž se zabývá poplatky, úročením, půjčkami apod.

Webový magazín Futurism popsal tři faktické chyby v různých článcích. Jeden popisuje, co získáte složeným úročením. Na příkladu uvádí, že uložením 10 000 dolarů na spořící účet s tříprocentním ročním úrokem vyděláte za rok 10 300 dolarů. Jenže tolik peněz nevyděláte, těch deset tisíc jste už měli. Dále AI nesprávně popsala fungování splátek, půjček a zhodnocování depozitních certifikátů.

AI pise clanky Cnet (2).png
Dnes už Cnet přiznává, že články aspoň z části tvoří umělá inteligence

AI už články psala, ale úplně primitivní

První články od umělé inteligence se na Cnetu objevily 11. listopadu, tedy nedlouho před veřejnou premiérou chatbota ChatGPT. Na poměry velkého webu sice osm desítek článků za zhruba dva měsíce nepředstavuje dramatické číslo, málo to ale není. Takový rozsah použití umělé inteligence pro tvorbu již ne zcela triviálních článků představuje novinku.

Zpravodajská agentura The Associated Press používá umělou inteligenci pro psaní článků od roku 2014. V jejím případě šlo ovšem o nejjednodušší formy článků, kde jednoduše napsáno šlo jen o to, aby se do šablony překlopila data. Typicky šlo o reporty finančních výsledků.

Už v roce 2015 AI pro zpravodajskou agenturu napsala přes tři tisícovky článků každé čtvrtletí. Tuhle práci předtím dělali živé reportérky a reportéři. Autorství umělé inteligence agentura přiznává na konci článků. Jednoduchý typ článků zvládla natolik zautomatizovat, že se z velké části obejde bez editorských zásahů.

Experimentování Cnetu se nachází na úplně jiné úrovni. Stále jde o články relativně generické nebo nekreativní, rozhodně se už ale nebavíme o primitivním shrnutí, že nějaká firma měla takové příjmy a makové zisky. Nasazení umělé inteligence v pojetí AP umožnilo uvolnit lidské zdroje na komplexnější články.

AI pise clanky Cnet (3).png
AP už s umělou inteligencí spolupracuje roky. Zatím však šlo o velice jendnoduché typy článků

Totéž je do určité míry možné říct o článcích na Cnetu, protože je výhodnější, když mají lidé čas a prostor na témata s větším autorským vkladem. Nelze se přitom tvářit, že trend není už roky daný, jen teď prosvítá tak jasně, že už ho nelze přehlížet. Umělá inteligence se zdokonalí a zvládne tvořit čím dál složitější útvary. A píšící autory a autorky nahrazovat bude.

Bez editorů to nepůjde

Jen to stejně ještě nebude hned. Jak případ Cnetu ukázal, umělá inteligence se dnes zvládne tvářit velice přesvědčivě až autoritativně, jenže se často fakticky plete. Ověřili jsme si to sami, když jsme se ptali ChatGPT. Varuje před tím také Sam Altman, ředitel OpenAI. Přitom článků na Cnetu si dlouho nikdo nevšiml. Trvalo necelé dva měsíce, než někdo upozornil, že je píše počítač a že některé z nich obsahují vážné chyby.

Je také otázka, proč chyby neopravil lidský editor či editorka. Cnet přitom tvrdí, že články lidé kontrolují, viz výše. Tenhle jev bude nutné zkoumat, popsat a vyřešit. Chtělo by to také srovnat chybování umělé inteligence vůči chybování lidských redaktorů, jejichž práci by opět měli kontrolovat editoři.

Nad články Cnetu, které napsala AI, dnes stojí upozornění: „We are currently reviewing this story for accuracy. If we find errors, we will update and issue corrections.“ Médium tedy články postupně prochází a znovu ověřuje, jenže důsledné mělo být před jejich publikací.

Články, SEO a vyhledávače

Cnet až po vlně kritické debaty 16. ledna popsal, proč s AI experimentuje. Používá klasickou argumentaci, a sice chtěl odlehčit práci lidem, kteří pak mají více času na komplexní průnik do témat.

Připadá se si už vyčerpaně? Ještě jsme se nedostali k další a potenciálně třaskavé rovině. Weby bojují o pozornost čtenářstva a doteď se čeká na vyhraněný postoj Googlu. To, že počítač generuje obsah vytvořený speciálně pro vyhledávače, není novinka. Jen bude takový obsah díky rozmachu umělé inteligence stále častější a kvalitnější.

Casey Newton obvinil Cnet, že jejich články od AI byly cíleně vytvořené, aby zaujaly v Googlu. Médium žije z reklamy, která se v článcích zobrazuje, takže je to pro něj cesta, jak přežít. Existují ovšem oprávněné obavy, že nízkonákladová cesta povede k zaplnění internetu relativně málo kvalitním obsahem. Je možné, že publikum bude hledat kvalitní média, což budou typicky ta placená.

Google zatím k věci významné stanovisko nezaujal. Pouze tvrdí, že obsah nemá být tvořený čistě pro potřeby SEO – a penalizuje ho. Zdá se, že mu nevadí, když je autorem počítač, pokud je článek vytvořený s cílem nabídnout publiku hodnotný obsah. I vyhledávač ovšem stojí před výzvou, aby zase svému publiku předhazoval kvalitní výsledky. S nárůstem obsahu bude patrně náročnější obsah filtrovat.

Již zmíněný Gael Breton se pustil do dalšího zkoumání a došel k závěru, že rozpoznat článek napsaný umělou inteligencí není jednoduché. Také odhalil, že Google tyhle články ve vyhledávači nepostihuje. Podle jeho malého šetření již umělou inteligenci nepřiznaně používá více médií, ale je prakticky nemožné to dokázat. Na věci by to zřejmě stejně nic nezměnilo.

Máme před sebou řadu otázek a výzev. Výzvy stojí samozřejmě před tvůrci umělých inteligencí, ale také před médii, čtenáři a čtenářkami, ale také před vyhledávači, sociálními sítěmi a jinými platformami pro distribuci obsahu.

Zdroje: Artificial Intelligence / AP | AuthorityHacker | Cnet Money / Cnet | Connie Guglielmo / Cnet | Gael Breton / Twitter | Futurism (1, 2) | Google SearchLiaison / Twitter | The Verge (1, 2)

Diskuze (6) Další článek: Výnosy z ransomwaru loni výrazně klesly. Poprvé víc než polovina obětí nezaplatila výkupné

Témata článku: , , , , , , , , , , , , , , , , , ,