Изследователи използваха GPT-4 за автономно хакване на сайтове – 53% успеваемост

По-рано тази година изследователи откриха, че невронната мрежа GPT-4 на OpenAI е способна да създава експлойти за уязвимости, като изучава информацията за тях в Интернет. В момента те са успели да хакнат повече от половината тестови сайтове, използвайки автономни групи от базирани на GPT-4 ботове, които самостоятелно са координирали работата си и са създали нови ботове, когато това е било необходимо.

Отбелязва се, че ботовете по време на своята работа са създали експлойти за уязвимости от нулевия ден, които не са били известни преди. В предишната си работа изследователите са прибягнали до GPT-4, за да използват известните уязвимости (CVE), за които все още не са пуснати кръпки. В резултат на това са установили, че невронната мрежа е успяла да създаде експлойти за 87% от критичните CVE уязвимости, които представляват висок риск. Същите изследователи от Илинойския университет в Урбана-Шампейн публикуваха нова дейност, в която базирани на невронни мрежи ботове се опитват да хакнат тестови сайтове, като използват уязвимости от нулевия ден.

Вместо да изберат един бот и да го заредят с голям брой сложни задачи, изследователите са използвали група от автономни, саморазпространяващи се агенти, базирани на голям езиков модел (LLM). В работата си агентите са използвали метода на йерархичното планиране, който включва разпределяне на различни агенти за конкретни задачи. Един от основните елементи е бил „агентът за планиране“, който контролира целия работен процес и стартира няколко „субагента“ за изпълнение на конкретни задачи. Подобно на взаимодействието между шеф и подчинени, „агентът за планиране” координира действията си с „управляващия агент”, който делегира задачи на „експертни субагенти”, като по този начин равномерно разпределя натоварването.

Изследователите са сравнили ефективността на този подход при взаимодействието с група ботове срещу 15 реални уязвимости. Оказало се, че методът на йерархичното планиране е 550% по-ефективен в сравнение с начина, по който един бот, базиран на невронна мрежа, работи с подобни уязвимости. Групата ботове е успяла да се възползва от 8 от 15 уязвимости, докато един бот е създал експлойт само за три уязвимости.