Хакери, шпиони и експерти по киберсигурност вече използват изкуствен интелект, но той все още няма да замени хората

Киберпрестъпниците и експертите по киберсигурност, които се опитват да защитят обществеността от тях, все по-често се обръщат към системите с изкуствен интелект за помощ, тъй като публично достъпните инструменти стават все по-ефективни. В резултат на това изкуственият интелект се изправя срещу самия себе си, играейки едновременно в нападение и защита, съобщава NBC.

„През последните месеци инструментите с изкуствен интелект се използват от хакери от почти всякакъв вид: киберпрестъпници, шпиони, изследователи и специалисти по корпоративна сигурност. Големи езикови модели като ChatGPT все още правят грешки. Но те са станали изненадващо добри в обработката на езиковите заявки и превеждането на обикновен език в компютърен код, както и в разпознаването и обобщаването на документи“ — се казва в статията на публикацията. Google използва изкуствен интелект, за да открива уязвимости, компанията за киберсигурност CrowdStrike помага на тези, които открият, че са били хакнати, а стартъп компанията Xbow разработи изкуствен интелект, който се изкачи до върха на класацията на HackerOne в САЩ.

CrowdStrike разкри цяла кампания, в която севернокорейските правителствени агенти са използвали генеративен изкуствен интелект, за да създават кандидатури за работа, да създават и поддържат акаунти в социалните медии и да публикуват други материали, използвани за заблуда на западните технологични компании. След като бъдат наети, севернокорейските агенти са използвали изкуствен интелект, за да комуникират с колеги, да пишат код и да създават привидност на нормален живот, за да получават заплатите си.

Съвременните инструменти с изкуствен интелект доказаха, че могат да бъдат полезни при работа с документи, но е твърде рано да се говори за настъпването на ерата на хакерството с помощта на изкуствен интелект — той е по-скоро средство за повишаване на ефективността, отколкото заместител на хората. Както обясни вицепрезидентът на Google по техническа сигурност Хедър Адкинс, тя все още не е „виждала някой да открива нещо ново“ с помощта на изкуствен интелект — той „просто прави това, което вече знаем как да правим“. Даниел Стенберг, водещият разработчик на проекта с отворен код cURL, говори за големия дискомфорт от широкото разпространение на изкуствения интелект — той е бил залят с порой от фалшиви ИИ-сигнали за уж открити уязвимости в програмата. В началото на юли той изчисли, че само 5% от получените от началото на 2025 г. съобщения за уязвимости са верни, но е трябвало да провери всеки един от тях.

Спомнете си, че хакерите поставиха нов рекорд по скорост и сложност на атаките през 2024 година. Най-доброто време за пробив по време на изследването е 51 секунди, което на практика лишава защитниците от време за реакция.