Неприятна изненада: ИИ инструментите за генериране на код тайно внасят уязвимости в проектите

Експертите по киберсигурност от Pillar Security откриха нова заплаха във веригата за доставка на софтуер – атака, наречена Rules File Backdoor. Тя засяга ИИ инструментите за писане на код като GitHub Copilot и Cursor, като ги кара да генерират вредоносни фрагменти в програмния код.

Атаката се базира на скрити инструкции, вградени в конфигурационните файлове, използвани от тези инструменти за определяне на стандартите за кодиране. Зловредните команди се инжектират с помощта на невидими Unicode символи и сложни методи за заобикаляне на проверките за сигурност, което позволява на нападателите да манипулират изкуствения интелект и да го принудят да включи уязвимости в генерирания код.

Основната опасност от атаката се състои в това, че заразеният код може да се разпространи незабелязано, като засегне множество проекти едновременно. Чрез инжектиране на злонамерени правила в конфигурационните файлове всички следващи заявки за генериране на код получават уязвими фрагменти, които могат да останат незабелязани при проверките.

Нападателите използват специални символи, като празни интервали с ненулева ширина, двупосочни текстови маркери и други невидими символи, за да скрият зловредните инструкции. Това им позволява да заобикалят защитните механизми и да принуждават ИИ редакторите да създават код, съдържащ задни вратички и други уязвимости.

След като проблемът беше разкрит през февруари и март 2024 г., представители на GitHub и Cursor заявиха, че потребителите трябва независимо да проверяват и одобряват предложения ИИ код. Въпреки това Pillar Security смята, че заплахата остава сериозна, тъй като атаката превръща AI инструментите в непреднамерени помощници на хакерите, излагайки на риск милиони крайни потребители.

Опасността се крие и във факта, че злонамерените правила се запазват, когато проектите се клонират и развиват, което превръща атаката в мощен инструмент за проникване във веригите за доставка на софтуер.