Ботове, които планират сами: защо автономният изкуствен интелект се превърна в новата заплаха за сигурността

Експертът по иновации Владимир Бандура, говорейки в ефир с Юрий Романенко, обсъди фундаментално нов етап в технологичното развитие. Това включва прехода от езикови модели към автономни ИИ-агенти. Тези системи са способни самостоятелно да планират поредица от стъпки, използвайки различни инструменти и изпълнявайки сложни многостъпкови задачи. Този пробив стана възможен благодарение на развитието на възможностите за планиране на изкуствения интелект, което отваря огромни възможности, но носи и сериозни заплахи.

Какви са опасностите от самоуправляващите се програми?

Вече има работещи проекти за автономни асистенти, като Clawdbot и Moltbot. Те могат да се справят с рутинните задачи като проверка на имейли, популяризиране на уебсайтове или управление на акаунти в социалните медии. Както обаче подчертава Бандура, ключовият проблем с подобни решения е почти пълната липса на вградени механизми за сигурност. Тези незащитени агенти често получават достъп до критични данни, като банкови карти, пароли и имейли, което представлява огромни рискове за поверителността на потребителите. Това е тревожен знак за дигитално пространство, където проблемите с киберсигурността са особено належащи.

Компанията SemanticForce откри над милион агенти-автори в една от специализираните социални мрежи за ботове. Тази ситуация е сериозно тревожна. Бандура я сравнява с отключен апартамент.

„Това е като отключен апартамент.“ — до който всеки може да има достъп. Той даде пример с потребители, публикуващи информация за отсъствието си и ценности, което се превръща в директна покана за нападателите. Отбелязвайки, че „Те създадоха социална мрежа за ботове.“

Експертът посочва, че това отразява не само технологичния прогрес, но и дълбоко вкоренени социални проблеми. Дори ако подобни ботове изпълняват полезни функции, те все пак изискват строг надзор и ясни инструкции от страна на хората.

По този начин, появата на автономни ИИ-агенти, въпреки техния потенциал, е съпроводена със значителни рискове, които изискват внимание както от страна на разработчиците, така и от страна на крайните потребители.

Тази технологична промяна към автономните системи прави изключително важно обсъждането на техните етични и защитни аспекти. С разпространението на технологиите като Clawdbot и Moltbot е необходима повишена предпазливост, за да се предотвратят потенциални злоупотреби. Предвид нарастващия брой агенти в мрежите, е изключително важно да се разработят и внедрят нови стандарти за сигурност и контрол, за да се защити личната информация на потребителите.