OpenAI потвърдиха, че хакери използват ChatGPG за писане на зловреден код

Създателите на ChatGPT OpenAI потвърдиха предишни наблюдения, че AI асистента се използва активно в хакерски кампании. Компанията публикува през миналата седмица и специален доклад по темата.

„Влияние и кибероперации“ (pdf) разглежда използването на ChatGPT за разпространяването на дезинформация, разработката на зловредни програми, провеждането на фишинг кампании и избягване на засичане от системите за сигурност.

За употреба на ChatGPT за създаването на зловреден код писаха още през април Proofpoint. Тогава те алармираха, че APT (advanced persistent threat) групата TA547 използват PowerShell скрипт, написан от ChatGPT в атака. През миналия месец HP Wolf разказаха за кампания, насочена срещу френскоговорящи интернет потребители. В кампанията им хакерите използвали AI инструменти за писане на код и във финалната част на сложни атаки. OpenAI допълват тези наблюдения, давайки примери със засечени подобни действия на ирански и китайски хакерски групи.

Едни от първите такива атаки са всъщност били насочени именно към служители на OpenAI. Това се случва в края на миналата година, като по случая работят и от Talos Security на Cisco. Става дума за кампания, организирана от китайска хакерска група с името SweetSpecter. Атакуващата страна използвала клъстър от контролирани ChatGPT акаунти за различни дейности. Освен за директно писане на код, SweetSpecter ползвали асистента за дебъгване, помощ при писането на фишинг писма, търсене на уязвимости и др.

Вторият случай, разгледан тук е кампания на иранска хакерска група, известна под името CyberAv3ngers. Смята се групировката е в тесни връзки с властта в Техеран. Основни цели на CyberAv3ngers са индустриални контролни системи. Те се допитвали до ChatGPT за писането на на bash и Python скриптове, защита на кода от анализ, както и разкриването на вградените записи за вписване в популярни PLC контролери.