Тъмната страна на изкуствения интелект: Как хакерите заобикалят всякакви защити

Според нов доклад на Malwarebytes киберпрестъпниците активно използват възможностите на изкуствения интелект (ИИ) и големите езикови модели (LLM), за да създават нови схеми за измами, които могат да заобиколят повечето системи за киберсигурност.

Пример за тази дейност е фишинг кампания, насочена към потребителите на Securitas OneID. Нападателите пускат реклами в Google, маскирани като легитимни. Когато потребителят кликне върху такива реклами, той бива пренасочен към така наречената „бяла страница“ – специално създаден сайт, който не съдържа видимо зловредно съдържание. Тези страници служат за отвличане на вниманието, за да се заобиколят автоматичните защити на Google и други платформи.

Идеята на атаката е, че действителните фишинг цели остават скрити, докато потребителят не извърши определени действия или системата за сигурност не завърши сканирането.

Генерираните от изкуствен интелект бели страници съдържат текст и изображения, които изглеждат правдоподобно, включително генерирани лица на предполагаеми служители на компанията. Това ги прави още по-убедителни и по-трудни за откриване. По-рано престъпниците използваха крадени изображения от социалните мрежи или снимки от фондовите борси, но сега автоматичното генериране на съдържание позволява по-бързо да се адаптират подобни атаки и да се създават уникални страници за всяка кампания.

Друг случай е свързан с програмата за отдалечен достъп Parsec, популярна сред геймърите. Нападателите създали „бяла страница“ с препратки към вселената на „Междузвездни войни“, включително оригинални плакати и дизайни. Това съдържание не само заблуждава системите за защита, но и изглежда интересно за потенциалните жертви.

Използването на изкуствен интелект улеснява престъпниците в заобикалянето на проверките. Например, при валидиране на реклами Google вижда само невинни „бели страници“, които не предизвикват подозрения. За реалните потребители, запознати с контекста обаче такива страници често изглеждат несериозно и могат лесно да бъдат разобличени.

В отговор на все по-широкото използване на изкуствен интелект в престъпни схеми някои компании вече създават инструменти, които могат да анализират и идентифицират генерирано съдържание. Проблемът обаче остава актуален: универсалността и достъпността на ИИ го правят привлекателен инструмент в ръцете на недоброжелатели.

Ситуацията подчертава значението на човешката намеса в процесите по анализ на данни. Това, което може да изглежда нормално за машинния алгоритъм често е незабавно разпознаваемо за човека като подозрително или просто нелепо. Този баланс между технологията и човешкия опит остава ключов елемент в борбата с цифровите заплахи.