Изкуственият интелект може да направи кибератаките по-умни и по-опасни

Хакерите могат да се възползват много от използването на генеративните AI-инструменти като ChatGPT. Въпреки че тези инструменти са все още твърде млади, за да стартират злонамерени кампании с минимално човешко участие, те все още могат да бъдат използвани за подобряване на ефективността на ръководени от хората кампании по невиждани досега начини.

Това се доказва от нов анализ, извършен от екипа на IBM Security Intelligence X-Force. Изследователите подробно описват експеримент, в който сравняват фишинг-имейли, написани от човек, с тези, написани с помощта на ChatGPT. Целта на проучването беше да се види кой имейл ще има по-висок процент на конвертируемост както към самите имейли, така и към съдържащите се в тях злонамерени връзки.

Установено е, че съдържанието, написано от хората, печели, но с малка разлика. Така че анализаторите се опасяват, че е само въпрос на време ИИ да надмине човешкото съдържание по отношение на достоверност и автентичност.

Хората превъзхождат ИИ по отношение на емоционалната си интелигентност, персонализацията и разбиране на жертвите. „Хората разбират емоциите по начин, по който изкуственият интелект може само да мечтае“ — казват експертите. „Можем да създадем разкази, които докосват хората и звучат по-реалистично, което увеличава вероятността получателите да кликнат върху злонамерена връзка.“

По отношение на персонализацията, хората успяха да се свържат със законни организации и да осигурят осезаеми ползи за потребителите, което увеличи вероятността имейлите да бъдат отворени. Освен това хората разбират какво може да направи жертвите им подозрителни: „Създаденият от човека фишинг поддържа темата на имейла кратка и по същество, докато AI го прави много дълъг, потенциално повдигайки подозрение, преди потребителите дори да са отворили имейла.“ — отбелязват експертите.

Всички тези фактори могат да бъдат коригирани. Струва си да се отбележи, че екипът на X-Force е успял да използва генеративен AI модел, за да напише убедителен фишинг-имейл за пет минути и пет подкани, което би отнело на екипа около 16 часа, за да напише на ръка. „Въпреки че X-Force не е виждал широкомащабно използване на генеративен AI в настоящите кампании, инструменти като WormGPT, които са изградени като неограничени или полу-ограничени LLM, са забелязани в различни форуми за продажба, насърчаващи фишинг-възможностите. Това предполага, че нападателите тестват използването на AI“ — заключават изследователите.

„Въпреки че дори ограничени версии на генеративните AI модели могат да бъдат измамени с прости подсказки“ — добавят те, „неограничените версии в бъдеще могат да предложат на нападателите по-ефективни начини за мащабиране на сложни фишинг-имейли“.