ИИ се научи да генерира хиляди модификации на вируси, които лесно заобикалят антивирусите

Изследователи в областта на сигурността от подразделението Unit 42 на Palo Alto Networks са открили, че големите езикови модели (LLM) успешно генерират почти неограничени модификации на злонамерен JavaScript код, като същевременно го правят по-малко разпознаваем за антивирусния софтуер. Като пример може да се посочи, че изкуственият интелект е създал повече от 10 000 копия на код, който е избягвал откриване в 88% от случаите. Тази монета обаче има и обратна страна.

“Макар, че на LLM му е трудно да се създаде зловреден софтуер от нулата, престъпниците могат лесно да го използват, за да презапишат или прикрият съществуващ зловреден софтуер, което затруднява откриването му”, казват изследователите от Palo Alto Networks Unit 42 в нов доклад.

Престъпниците могат да накарат LLM да извършват трансформации, които изглеждат много по-естествени, което прави откриването на такъв софтуер по-трудно. Това обаче не означава, че ситуацията е оставена без внимание. Разработчиците на LLM въвеждат мерки за сигурност, за да предотвратят използването на моделите за деструктивни цели. Въпреки това нападателите вече са въвели инструменти като WormGPT, за автоматизиране на създаването на убедителни фишинг имейли и разработването на нов зловреден софтуер.

Изследователите от подразделението Unit 42 на Palo Alto Networks, което между другото носи името си от „Пътеводител на галактическия стопаджия“ на Дъглас Адамс, където числото 42 е отговорът на „крайния въпрос за живота, Вселената и всичко“, провериха как LLM работи като модификатор на зловреден софтуер. Те установиха, че изкуственият интелект е създал 10 000 разновидности на кода, които инструменти като Innocent Until Proven Guilty (IUPG) и PhishingJS не могат да открият. Нещо повече, зловредният код изглеждал по-естествен и на пръв поглед безвреден от този, модифициран с помощта на стандартния механизъм obfuscator.io.

ИИ не е оригинален в методите си за замаскиране. Той използва много стандартни техники: преименуване на променливи, разделяне на редове, вмъкване на ненужен код, изтриване на ненужни интервали и дори пълно предефиниране на кода.

Технологията прави това 10 000 пъти подред, което кара антивирусните програми да приемат, че новите версии са безвредни. Изследователите отбелязват, че това наистина е тревожно. Този механизъм обаче може да бъде полезен за обучение на алгоритми, които могат да откриват неизвестни досега модификации на злонамерен код. Увеличаването на атаките стимулира разработването на защитни средства. Един изкуствен интелект създава вируси, а друг ги улавя.