AI почти настига хакерите – 9 от 10 експерти са по-слаби от технологията

Съвременните средства за хакване на компютърни системи, базирани на изкуствен интелект са станали толкова усъвършенствани, че почти са надминали истинските хакери. Такива са резултатите от експеримент, проведен от изследователи в Станфордския университет, пише The Wall Street Journal.

Почти през цялата минала година група учени от Станфорд е разработвала чатбота с изкуствен интелект Artemis, предназначен за хакерски операции. Той сканира мрежата за възможни грешки (софтуерни уязвимости) и след това намира начини да използва тези уязвимости, за да проникне в системите. След като обучават изкуствения интелект, те го пускат извън лабораторията и го молят да намери грешки в реалната компютърна мрежа на инженерния отдел на един университет. Дейността на Artemis беше сравнена с работата на истински хакери.

Първоначално авторите на експеримента не очаквали много от Artemis, но в действителност той се оказал изключително добър и надминал девет от десетте специалисти, наети от изследователите за тестване.

Artemis откривал грешки със светкавична скорост, а поддръжката му била сравнително евтина – 60 долара на час, докато специалист със същия профил печели от 2000 до 2500 долара на час. Работата на Artemis все пак не беше перфектна – около 18% от съобщенията за уязвимости бяха фалшиво позитивни. Той също така пропусна очевидна грешка, която повечето хора забелязват на дадена уебстраница.

Мрежата в Станфорд не е била хаквана от чатботове с изкуствен интелект преди това и експериментът се оказа добра възможност за отстраняване на някои недостатъци в защитата. Artemis има и функция за аварийно изключване, която позволяваше на изследователите незабавно да деактивират инструмента в случай на проблеми. Изследователите посочват, че голяма част от софтуерния код по света не е надеждно тестван за уязвимости, така че инструменти като Artemis могат да бъдат дългосрочна придобивка за мрежовите специалисти, като им помогнат да открият и отстранят повече грешки в кода от всякога. В краткосрочен план обаче това е и заплаха – нападателите могат да се обърнат към изкуствения интелект, за да намерят и използват уязвимости.

Интересно е, че Artemis е открил една от грешките на страница, която не се отваря от съвременните браузъри – изследователите на уязвимостите са я пропуснали, но той я е открил, защото е отворил страницата с помощта на помощната програма cURL. По-рано разработчикът на тази програма се оплака, че е бил затрупан с лавина от фалшиви съобщения за грешки в нея, които уж откриват AI моделите.