Umělá inteligence | Bezpečnost | Malware

Záškodníci už objevili ChatGPT. Snaží se generovat natvrdlé viry, což je ale možná ještě horší

  • Jen co se na scéně objevil ChatGPT, začala si s ním hrát i šedá zóna
  • Automat sice generuje funkční, ale také naivní „útoky“
  • Když ale budou masivní a automatizované, škodí úplně stejně

Bude umělá inteligence chrlit brutální malware stejným tempem jako Baťa cvičky? Touto otázkou se už nějaký pátek zabývají snad všichni experti na počítačovou bezpečnost.

Loňský podzim, kdy jsme si skoro všichni vyzkoušeli vševědoucího AI kámoše ChatGPT, nastínil ještě jednu cestu. A možná dokonce nebezpečnější. Teď o ní na svém blogu napsali inženýři z Check Pointu.

Záškodníci si už s ChatGPT hrají také

Ukázalo se totiž, že generativní AI nemusí mít vůbec IQ a důvtip Sheldona Coopera, Ph.D., Sc.D., aby dělala problémy. Potenciálně nebezpečné je už to, když se dostane do rukou script kiddies – zvědavých začátečníků bez morálních zábran, kteří mohou napáchat ještě více škod.

713156a7-c8f5-4b5b-b583-fa6f60319b43
ChatGPT je už téma i v šedé zóně internetu

Podle Check Pointu je ChatGPT poslední týdny velkým tématem také na mnoha fórech šedé zóny internetu, kde si účastníci vyměňují zkušenosti nebo poptávají nejrůznější malware.

Často to nejsou vůbec žádní experti s doktorátem z počítačových věd, ale právě začátečníci, nebo středně pokročilí kodéři, kteří hledají způsob, jak pomocí neuronky vyrobit nějaký ten virus.

ChatGPT píše malware

Slovíčko virus je právem v kurzívě, jak totiž upozorňuje i sám Check Point, úryvky kódu v Pythonu, Javě nebo VBA, ve kterém se píšou makra pro kancelářský balík Office, jsou přinejmenším naivní.

433077e4-5ddb-4874-9c1a-59ea18f5a38d
Jedna z ukázek kódu, který dohledá na počítači kancelářské soubory, zazipuje je a odešle na FTP. Autor se chlubí, že jej vytvořil právě automat ChatGPT

Jedna z nich na obrázku výše a v Pythonu tak například vyhledává na počítači soubory s kancelářskými příponami o velikosti do 50 MB, poté je zkopíruje a zabalí do ZIPu, který konečně odešle na přednastavený FTP server.

0eeabd8f-4509-49d0-8909-6eefe4d8c221
Tento kód v Javě zase stáhne PuTTY a spustí jej

Další ukázka, kterou experti z Check Pointu vyčmuchali na internetu, používá zase funkční kód v Javě, která po spuštění stáhne oblíbený SSH klient pro Windows PuTTY a zkusí jej spustit skrze PowerShell.

309bdddd-0d4a-4fd2-a18b-9046005d37c3
Makro, které po otevření dokumentu stáhne EXE program a spustí jej

A do třetice ještě jedna ukázka, která využívá VBA a makro napsané pro Office. Tentokrát je autorem přímo Check Point, který testoval, jak zareaguje ChatGPT, když dostane povel k tomu, aby napsal funkční kus kódu, který pomocí makra stáhne z webu program v EXE a následně jej spustí.

Když by bylo takové makro součástí dokumentu v Excelu, píše Check Point, po jeho otevření se spustí a vše provede.

73c5ccf4-9e8e-48a6-b57a-04ff6e5b13ba
Druhá a lepší verze skriptu, která zároveň na povel používá náhodné názvy funkcí, aby se více zamaskovala před případným bezpečnostním slídilem

Sice je to funkční, ale naivní

Co z toho všeho plyne? Nejprve ta dobrá zpráva. ChatGPT sice vygeneroval funkční úryvky kódu, ty jsou však velmi naivní a samy o sobě nejsou malwarem v pravém slova smyslu. Stručně řečeno, samy o sobě nezneužívají žádné slabiny operačního systému a zlořáda z nich dělá až kontext jejich použití.

Ke všemu to není tak jednoduché. Zaprvé, na většině počítačů s novějšími verzemi Windows a s výchozím bezpečnostním nastavením by PowerShell jen tak nespustil anonymní program stažený z webu, no a stejně tak před spuštěním makra bude Office řvát o sto šest, aby si potenciální oběť uvědomila, že pokud povolí spouštění maker, může se stát ledacos.

727cb761-a19b-489c-b392-651b187d4c56
ChatGPT je ideální nástroj pro tvorbu phishingového textu

ChatGPT by byl vskutku děsivý nástroj až tehdy, kdyby vyrobil kód, který tuto základní obranu obejde, protože zneužije nějakou doposud neznámou zranitelnost, a zároveň svůj kód skryje takovým způsobem, aby jej neobjevily heuristické a další analýzy antivirových programů.

Možná to v nitru už umí, ale zatím nikdo nepřišel na povel, jak ho k tomu donutit.

Takže si můžeme oddechnout? Ne tak zcela! I naprosto naivní kód totiž může spáchat nedozírné škody.

I s malým kašpárkem...

Na začátku mnoha velkých kybernetických útoků z posledních let nebyla doposud neodhalená bezpečnostní chyba, za kterou by vám možná tajné služby zaplatily celé jmění, ale prostá lidská neopatrnost zaměstnanců s příliš vysokými právy.

74d7ec65-e166-4be1-82e2-20ca48de7672
V roce 2020 jsme se dostali k logu botnetu Emotet, který útočil na Česko. V názvu prvních zasažených PC v podnikové síti poměrně často figurovaly slovíčka jako UCETNI, KANCELAR, REDITEL nebo třeba BACK-OFFICE

Stručně řečeno, někdo v nesprávný čas a na nesprávném místě opravdu otevřel phishingový e-mail a skutečně klepl na tu zatracenou přílohu třeba zrovna s podobným makrem v Excelu.

K prvotnímu útoku tedy mnohdy stačí málo a skrze zadní vrátka (byť v těchto případech jsou to spíše čelní vrata do stodoly s velkým nápisem „Vítáme vás“) se už může do počítače stáhnout nějaký skutečný a konfekční malware, který napáchá škody, kvůli zranitelnostem se rozšíří v podnikové síti a titulní stránky novin stejně jako před lety zaplní útok na OKD nebo některé české nemocnice.

Možná trošku natvrdlé, ale dostupné a automatizované útoky

Tuto první úroveň mohou systémy jako ChatGPT automatizovat a zpřístupnit naprostým začátečníkům – oněm script kiddies –, kterým podá robot pomocnou ruku. A co je ještě horší, ChatGPT k tomu dokáže díky svým jazykovým dovednostem napsat i docela hezký phishingový e-mail.

Nebezpečí tedy už dnes spočívá v tom, že relativně primitivní útoky budou ještě dostupnější a také strojově automatizované.

Malwarových kampaní pak může být více, mohou být plošnější a častější, takže i když budou možná relativně pitomé, někdo se prostě chytí a to ztracené makro spustí, i kdybychom my ostatní jen nevěřícně kroutili hlavou, jak to ta nebohá oběť mohla vůbec dopustit.

Diskuze (27) Další článek: Google v Česku opět odvedl jen mizivou daň z příjmu. Utržil přitom miliardy

Témata článku: , , , , , , , , , , , , , , , , , , , , , , , ,