Изкуственият интелект – най-новото главоболие на разработчиците на софтуер с отворен код

Разработчиците на софтуер с отворен код се сблъскват с нов проблем – поток от нискокачествени доклади за бъгове, генерирани от изкуствен интелект. Експертите твърдят, че ситуацията започва да прилича на заливането на социалните мрежи с дезинформация, с която безуспешно се борят системите за проверка на фактите.

Сет Ларсън, изследовател в областта на сигурността от Python Software Foundation споделя наблюденията си в своя скорошна публикация. Според него напоследък броят на докладите за уязвимости, създадени с помощта на големи езикови модели (LLM) се е увеличил драстично. Тези доклади изглеждат много правдоподобно, което кара разработчиците да отделят време за внимателното им анализиране и опровергаване.

Това е особено сериозен проблем за големи проекти с отворен код като Python, WordPress и Android, които са в основата на съвременния интернет.

Повечето от тях се поддържат от малки групи ентусиазирани доброволци, които работят без заплащане. Реалните уязвимости в широко използваните библиотеки с код представляват сериозен риск, тъй като използването им има потенциал да причини щети на цялата система. Разработчикът Даниел Стърнбърг в сайта HackerOne открито критикува един потребител за това, че е изпратил генериран доклад за грешка:

„Изпратихте безсмислен доклад, привидно генериран от изкуствен интелект, в който споменавате някакъв проблем със сигурността – очевидно защото изкуственият интелект ви е убедил, че той съществува. След това ни изгубихте времето, като премълчахте факта, че софтуерът го е направил вместо вас и продължихте дискусията, като отговорихте със същата безсмислица – вероятно също генерирана от изкуствен интелект.“

Генерирането на код става все по-популярно приложение на големите езикови модели, въпреки че сред разработчиците все още се водят спорове за полезността на технологията. Инструменти като GitHub Copilot или ChatGPT успешно създават основната структура на даден проект и помагат за намирането на правилните функции в софтуерните библиотеки. Въпреки това, големите езиковите модели, както всяка система с изкуствен интелект понякога създават грешен или непълен код. Те не разбират програмирането на концептуално ниво, а работят на базата на вероятностни модели, като предвиждат възможен резултат въз основа на данни от обучението си.

За да създадат завършен проект, разработчиците все още се нуждаят от дълбоко разбиране на използвания програмен език, от способност да отстраняват бъгове в кода и да разбират цялостната архитектура на приложението.

Експертите казват, че инструментите за генериране на код ще имат най-голямо въздействие върху начинаещите програмисти, като вероятно вече съществуват прости приложения, които могат да бъдат създадени единствено с помощта на ИИ. Платформи като HackerOne, които плащат за намиране на уязвимости вероятно неволно са насърчавани да използват ChatGPT за анализ на кода и изпращане на фалшиви доклади за бъгове, създадени от ИИ.

Въпреки че спамът не е ново явление за интернет, интелигентните технологии значително улесниха масовото му „производство“. Вероятно за борба с това явление ще е необходимо да се разработят нови защитни механизми като CAPTCHA.