Изкуственият интелект на Google самостоятелно е открил 20 уязвимости в софтуер с отворен код

Изкуственият интелект на Google за първи път самостоятелно откри 20 уязвимости в софтуер с отворен код. Грешките са идентифицирани с помощта на системата Big Sleep в проекти като мултимедийната библиотека FFmpeg и графичния редактор ImageMagick. Това съобщава TechCrunch, позовавайки се на изявление в X на вицепрезидента по сигурността на компанията Хедър Адкинс.

Системата Big Sleep е разработена съвместно от подразделението DeepMind и екипа за киберсигурност Project Zero. Google все още не разкрива подробности относно откритите уязвимости, тъй като все още не са отстранени. Фактът обаче, че Big Sleep работи успешно, потвърждава, че инструментите с изкуствен интелект започват да дават реални резултати. Според представителя на компанията Кимбърли Самра, всеки бъг е бил открит и възпроизведен от изкуствен интелект без човешка намеса, въпреки че експертите, разбира се, са проверили два пъти всички данни, преди да изпратят докладите.

Вицепрезидентът по инженерство на Google, Роял Хансен, го нарече пробив в автоматизираното сканиране на уязвимости. Big Sleep обаче не е единственият инструмент от този вид: други системи с изкуствен интелект, като RunSybil и XBOW, вече са на пазара. Последната, по-специално, се класира високо на платформата за сканиране на уязвимости HackerOne.

Съоснователят и главен технологичен директор на RunSybil, Влад Йонеску, похвали Big Sleep като сериозен и добре обмислен проект, подчертавайки, че той е зад гърба на висококвалифицирани професионалисти. В същото време акцентира върху нарастващ проблем: някои ИИ-системи генерират фалшиви отчети, симулирайки реални уязвимости. Според него разработчиците все по-често получават съобщения, които изглеждат убедителни, но всъщност не съдържат реални грешки. Той нарече това явление дигитален „боклук“ в областта на Bug Bounty — програма за награждаване на разработчиците при откриване на грешки.