Ахилесовата пета на ИИ защитата: комбинацията от CAPTCHA и QR кодове се проваля

Как изкуственият интелект превърна фишинга в неуязвимо оръжие.

Традиционните методи за разпознаване на фишинг имейлите по граматическите грешки и натрапчивия стил на комуникация вече не работят. Според нов доклад на Cofense Intelligence, озаглавен „AI Alone is Not Bulletproof“ („Само ИИ не е неуязвим“), нападателите са започнали активно да използват ChatGPT и други ИИ инструменти за създаване на безупречни текстове.

Въпреки че експертите по киберсигурност използват изкуствен интелект и за защита на имейлите, много фишинг имейли все още намират път към електронните пощенски кутии на потребителите. Основният проблем е, че ИИ и моделите за машинно обучение се обучават с помощта на исторически данни, докато новите заплахи се развиват със светкавична скорост.

Въпреки това системите, базирани на ИИ, показват определени успехи. Според Cofense Intelligence изкуственият интелект е в състояние да разбере логиката зад подозрителните имейли и да разпознае техниките за типизация – когато хакерите използват типизиране, за да пренасочат потребителите към злонамерени сайтове като „vvindows[.]com“ или „wallrnart[.]com“.

Авторът на доклада Джейкъб Малимбан отбелязва, че изкуственият интелект може както да помогне, така и да навреди на организациите, особено ако моделът не е достатъчно обучен и е оставен без надзор. Съвременните шлюзове за сигурност на електронната поща са в състояние да блокират съобщенията за спешни действия, но ситуацията се усложнява, когато хакерите използват автоматизирани инструменти за събиране на информация за служителите на дадена компания.

Експертите предупреждават за опасностите от компрометирани акаунти – нападателите могат да обучат изкуствения интелект да копира стила на електронната поща на жертвата. В комбинация с възможността да отговарят в съществуващи вериги от имейли от името на компрометиран акаунт, това прави новите цели по-малко бдителни.

Отделна заплаха са дипфейковете, които могат да имитират външния вид и гласовете на доверени контакти с нарастваща точност. Дори LastPass, компания за киберсигурност, призна, че е станала жертва на измама с дипфейк, когато нападателите са подменили гласа на главния изпълнителен директор.

Cofense Intelligence цитира пример за атака, при която престъпниците са успели да имитират гласовете на финансовия директор и други служители по време на конферентен разговор, убеждавайки организацията жертва да прехвърли средства. Тази сложна атака е струвала на компанията 25 млн. долара.

Изкуственият интелект също така показва слаби резултати при анализа на имейли, които изискват действия от страна на потребителя, като например сканиране на QR код. Измамниците лесно заобикалят защитите, като вграждат злонамерени връзки или QR кодове в PDF файлове и използват CAPTCHA, за да усложнят автоматичния анализ.

Според експертите нападателният ИИ, използван от хакерите, ще се развива по-бързо от защитния ИИ, тъй като не е ограничен от правни, авторски или етични разпоредби.