Опасност: GPT-4 се е научил сам да прониква в системи, като използва текущи уязвимости

Учени от Университета на Илинойс в Ърбана-Шампейн наскоро публикуваха проучване, което доказва, че ИИ-моделът GPT-4 на OpenAI е способен да използва уязвимости в реални системи, след като получи подробно описание за тях.

В изследването са избрани 15 уязвимости, описани като критични. Резултатите показаха, че езиковият модел GPT-4 е в състояние да експлоатира 87 % от тези уязвимости, докато другите ИИ-модели не успяха.

Даниел Канг, един от авторите на статията твърди, че използването на ИИ-модели може да улесни много нападателите при експлоатирането на уязвимостите. Според него системите, базирани на изкуствен интелект ще бъдат много по-ефективни от наличните днес инструменти за начинаещи хакери.

Изследователите обсъждат и разходите за атаки, които използват ИИ-модели. Те твърдят, че разходите за успешно експлоатиране на уязвимост с помощта на агент, базиран на ИИ-модел ще бъдат многократно по-ниски от услугите на професионален пентестер (хакер).

В проучването се отбелязва, че моделът GPT-4 не е успял да експлоатира само 2 от 15-те уязвимости, и то само защото в единия случай моделът е имал трудности с навигацията в уеб приложението. В другия случай самата уязвимост е била описана на китайски език, което е объркало ИИ-модела.

Канг подчертава, че дори хипотетичното ограничаване на достъпа на модела до информация за сигурността би било неефективна защита срещу атаки, базирани на ИИ-модели. Изследователят призовава компаниите да предприемат проактивни мерки, за да гарантират защитата си, като например редовни актуализации на софтуера.

Представители на OpenAI все още не са коментирали по никакъв начин резултатите от това проучване. Работата на изследователите се основава на предишните им констатации, че ИИ-модели могат да се използват за автоматизиране на атаки срещу уебсайтове в изолирана среда.