Umělá inteligence | ChatGPT | Škola

ChatGPT lhal profesorovi, že je autorem esejí. Jeho studenti tak málem přišli o diplomy

Velmi kuriózní případ, týkající se využívání umělé inteligence při plnění studijních úkolů, museli řešit v americkém Texasu. Několika absolventům Texas A&M University-Commerce bylo totiž dočasně odepřeno vydání diplomů poté, co jeden z profesorů neodborně použil software umělé inteligence k hodnocení jejich závěrečných úkolů. O události informoval jako jeden z prvních magazín Rolling Stone.

Jared Mumm poslal skupině studentů e-mail, ve kterém je informoval, že jim zadal známky za jejich poslední tři eseje v tomto semestru. Upřesnil, že všichni dostanou z jeho předmětu křížek, protože použil „Chat GTP“ (chatbot OpenAI se ve skutečnosti jmenuje „ChatGPT“), aby otestoval, zda k napsání prací nepoužili software postavený na umělé inteligenci. Chatbot uvedl, že je autorem všech prací.

Chatbote, řekni mi pravdu!

„Zkopíruji a vložím vaše odpovědi do programu [ChatGPT] a ten mi řekne, jestli vygeneroval tento obsah,“ napsal Mumm s tím, že každý dokument pro jistotu otestoval dvakrát. Nabídl celé třídě opravné zadání, aby se vyhnula nedostatečné známce – která by jinak teoreticky mohla ohrozit jejich status absolventa.

Našim čtenářům jistě nemusíme vysvětlovat to, co americký profesor patrně ani netušil: totiž že takto ChatGPT v žádném případě nefunguje. Chatbot není koncipován tak, aby dokázal rozpoznat text vytvořený umělou inteligencí – nebo dokonce materiál vytvořený jím samotným. Nemluvě o tom, jak rády si tyto služby vymýšlejí – ChatGPT je například schopen tvrdit, že napsal úryvky ze slavných románů, jako je Zločin a trest.

Pedagogové si mohou vybrat z celé řady nástrojů umělé inteligence a služeb pro odhalování plagiátů, které slouží k posouzení, zda studenti vypracovali zadání sami, jako jsou Winston AI či Content at Scale; ChatGPT mezi ně nepatří. Vlastní nástroj OpenAI pro určení, zda text napsal bot, byl digitální marketingovou agenturou, která doporučuje podnikům technologické zdroje, vyhodnocen jako „nepříliš přesný“.

Špatně informovaný profesor

Generativní umělá inteligence je pro Jareda Mumma očividně neprobádaným polem – soudě už z toho, jak nesprávně napsal název jednoho z nejčastěji používaných chatbotů. Studenti tvrdí, že dodali důkaz, že ChatGPT nepoužili – časová razítka v Dokumentech Google, které použili k vypracování domácího úkolu. Profesor to zpočátku ignoroval a ve školním systému to komentoval slovy: „Nehodnotím kraviny s umělou inteligencí.“

Mummův e-mail sdílel na Redditu uživatel s přezdívkou DearKick, který se představil jako snoubenec jedné ze studentek, jež dostala nedostatečnou známku za údajně umělou inteligencí generované eseje. Pro Rolling Stone uvedl, že jeho partnerka o ChatGPT sama nikdy neslyšela a byla obviněním zmatená, přičemž poznamenala, že „se cítí ještě hůř vzhledem k tomu, že jde o něco, o čem nic neví.“

Mummovo obvinění bylo následně vtipně podkopáno jednoduchým experimentem s využitím ChatGPT. Jeden z uživatelů diskuzního webu Reddit našel abstrakt Mummovy doktorské práce o chovu prasat, který předložil botovi s dotazem, zda mohl tento odstavec napsat. „Ano, vámi poskytnutý úryvek by skutečně mohl být vygenerován jazykovým modelem, jako je ChatGPT, pokud by byl zadán správný podnět,“ odpověděl program s tím, že „Text obsahuje několik charakteristik, které odpovídají obsahu generovanému umělou inteligencí.“

Postupně se ukázalo, že Mumm měl očividně málo znalostí o tom, jak funguje ChatGPT. Zatímco nejméně jeden student již byl zproštěn viny díky časovým razítkům v Dokumentech Google a obdržel od Mumma omluvu, další dva se přiznali, že ChatGPT použili již dříve v průběhu semestru, což „nepochybně značně komplikuje situaci těm, kteří tak neučinili.“

Umělá inteligence ve vzdělávání

V prohlášení zaslaném časopisu Rolling Stone ve středu Texas A&M University-Commerce uvedla, že incident vyšetřuje a chystá zásady týkající se umělé inteligence ve výuce. Univerzita popřela, že by někdo dostal nedostatečnou známku. „A&M-Commerce potvrzuje, že žádný student nepropadl z výuky ani mu nebylo znemožněno absolvovat kvůli tomuto problému,“ uvedla škola.

„Profesor Jared Mumm komunikuje se studenty ohledně jejich posledních písemných úkolů individuálně. Někteří studenti obdrželi dočasnou známku 'X' – což znamená 'nedokončeno' –, aby profesor a studenti měli čas zjistit, zda byla při psaní jejich úkolů použita umělá inteligence, a pokud ano, na jaké úrovni.“ Univerzita rovněž potvrdila, že několik studentů bylo očištěno s tím, že se nedopustili žádného nečestného jednání.

„Vedení univerzity tento incident vyšetřuje a připravuje zásady, které budou řešit používání nebo zneužívání technologie umělé inteligence ve výuce,“ píše se dále v prohlášení. „Pracujeme na přijetí nástrojů pro detekci AI a dalších zdrojů pro zvládnutí průniku technologie umělé inteligence a vysokoškolského vzdělávání. Využívání AI ve školách je rychle se měnící problém, se kterým se potýkají všechny vzdělávací instituce.“

Ačkoli mají učitelé jistě oprávněné podezření, že se studenti mohou pokoušet vypracovat písemnou práci s pomocí umělé inteligence, tento spor ukazuje, jak problém zasahuje obě strany. Aby bylo možné tento druh podvádění spolehlivě odhalit nebo mu zabránit, potřebují profesoři a ředitelé alespoň základní znalosti o příslušných technologiích.

Diskuze (10) Další článek: NASA zjistila, kam dopadl lunární lander japonské společnosti ispace

Témata článku: , , , , , ,