Много специалисти по киберсигурност искат забавяне на внедряването на изкуствения интелект в бизнеса

„С голямата сила идва и голяма отговорност“. Популярната реплика може съвсем спокойно днес да се използва за възхода на изкуствения интелект. Появили се на пазара преди едва две-три години за широко ползване, големите езикови модели и AI чатботовете си пробиват път не само в ежедневието на обикновените хора. Но и в офисите на компании и организации от различен мащаб. И макар и улеснение и спестяване на ресурси, те идват без съмнение със своите рискове. Какво правят в такъв случай екипите в тези организации, които трябва да се справят с рисковете по начало? Вземайки предвид постоянния недостиг на кадри в киберзащитната индустрия в глобален план, може да се досетим за мнението на същата тази индустрия.

Според проучване, чиито резултати бяха публикувани тази седмица, близо половината от анкетираните специалисти (48%) вярват, че е нужно да се направи „стратегическа пауза“ във внедряването на генеративните AI инструменти. Това ще помогне на екипите по защита да „калибрират“ сега съществуващите си защити с цел настъпването на технологията. Откритието може да се намери в доклада на Cobalt „2025: Състояние на сигурността на големите езикови модели“. Проучването се основава на допитване до над 450 професионалисти в киберсигурността, защитни лидери и IT мениджъри.

Почти всички запитани (94%) отбелязват значителен ръст на внедряването на генеративен изкуствен интелект (genAI) в секторите си през последната година. Но повече от една трета (36%) споделят, че това внедряване идва на по-голяма скорост, отколкото те могат да се справят.

Почти половината (46%) смятат, че бизнес информацията в случая е най-застрашена. Притесненията тук са в различни посоки. Това включва опасността от разкриването на информация (46% от анкетираните) и „натравяне“ на информационните модели или кражба (42%). Т.нар. „информационно натравяне“ (data poisoning) включва умишлената манипулация (от външна или вътрешна страна) на входираната информация при обучение на моделите. Това може да доведе до извеждането на некоректни изходни данни и съответни последствия за бизнес операциите на предприятието. Следващи по значимост посочени рискове тук са неверни данни (40%) и утечка на информацията, използвана за обучение. И още нещо. Според проведени атакуващи тестове към LLM моделите, 32% от установените уязвимости се определят за „сериозни“ (с висок и критичен риск). В същото време, по-малко от една четвърт (21%) от откритите уязвимости, биват адресирани в действителност.

Независимо от притеснителните открития в доклада, Гюнтер Олман, технологичен директор на Cobalt, отправя предупреждение и съвет. Мнението му е, че IT специалистите и киберзащитниците грешат в желанието си за забавяне на внедряването на изкуствения интелект.

„Киберпрестъпниците не изчакват. Екипите по сигурност трябва да правят същото“, смята Олман. Изследването ни сочи, че генеративният изкуствен интелект преобразява начина, по който работим. Но в същото време, той пренаписва правилата правилата на риска. Основите на сигурността в случая трябва да се развиват едновременно с това. В противен случай рискуваме да изградим иновациите на утрешния ден на основите на остарели предпазни механизми“.

Повече за откритията в доклада може да откриете тук (pdf).