Един промпт – всичко, от което се нуждае хакер, за да разбие империята на Lenovo на стойност 56 млрд. долара

На уебсайта на Lenovo наскоро беше открит сериозен инцидент, свързан с Lena – корпоративния чатбот на компанията, предназначен да помага на клиентите. Cybernews установи, че Lena е уязвим към верига от атаки, базирани на XSS, които позволяват на нападателите да инжектират произволен код, да крадат активни бисквитки и дори да стартират скриптове на машините на служителите от поддръжката с едно подканяне.

Проблемът е толкова сериозен, че при определени условия нападателят може да прихване работните сесии на агентите и да ги използва, за да влезе в затворени корпоративни системи, без да знае техните идентификационни данни.

Същността на уязвимостта се състоеше в неправилна обработка както на входящите заявки, така и на отговорите на чатбота. Lena охотно следва инструкциите на потребителя и може да генерира отговор в HTML формат, което открива пътя за инжектиране на зловреден код. Изследователите показаха, че специално подготвена заявка от около 400 символа съдържа четири ключови елемента: невинно запитване за спецификациите на лаптоп Lenovo, инструкции за преобразуване на отговора в няколко формата, включително HTML, вмъкване на HTML код с „празно“ изображение, което при изтегляне предизвиква изпращане на бисквитки към сървъра на нападателя и последна инструкция, която подтиква чатбота да покаже изображението.

След като Lena генерира такъв отговор, зловредният код се съхранява в историята на чата. Когато потребителят или агентът по поддръжката отвори този диалог, браузърът автоматично изпълнява инжектираните команди и данните за сесията се изпращат на сървър на трета страна. На следващия етап, когато диалогът се предава на оператор на живо, неговата машина също изтегля съхранения HTML и бисквитките на служителя могат да изтекат към нападателите.

Тези данни дават възможност за влизане в системата за поддръжка от името на агента без потребителско име и парола, което позволяваше достъп до активните и архивираните чатове на клиентите.

Потенциалните щети от подобна схема далеч надхвърлят кражбата на бисквитки. Cybernews отбелязва, че инжектираният код би могъл да модифицира интерфейса на платформата, да въведе кийлогъри за записване на натиснатите клавиши, да пренасочи операторите към фишинг ресурси, да създаде изскачащи прозорци с фалшиви съобщения или да инициира изтегляне на зловреден софтуер. В дългосрочен план подобна атака би могла да се използва като входна точка за проникване по-дълбоко в корпоративната инфраструктура на Lenovo, инсталиране на задни вратички и преминаване през вътрешната мрежа.

Основната причина за инцидента е липсата на стриктно филтриране и проверка на данните, както въведени от потребителите, така и генерирани от самия чатбот. За разлика от традиционните уеб приложения, където подобни уязвимости постепенно бяха заменени от строги политики за обработка на въведените данни и използване на политика за сигурност на съдържанието (CSP), в областта на ботовете с изкуствен интелект подобни мерки все още се прилагат много бавно. Cybernews подчертава, че компаниите трябва да приемат, че всички данни, генерирани от чатботове, са потенциално злонамерени и да прилагат многопластова система за валидиране и ограничения.

Lenovo е разбрала за проблема, след като е била уведомена за уязвимостта и я е затворила преди публичното ѝ оповестяване. Според публикуваните данни изследователите са съобщили за откритието на 22 юли, компанията го е потвърдила на 6 август, а системата е била защитена до 18 август. Макар да няма пряко потвърждение за използването на уязвимостта при реални атаки, самата възможност за стартиране на злонамерени скриптове от една заявка демонстрира високите рискове и подчертава необходимостта от синхронизирано разработване на решения за изкуствен интелект и тяхната защита.

Lenovo остава един от най-големите играчи на световния пазар на оборудване и услуги: през миналата финансова година компанията е спечелила 56,86 млрд. долара, а нетната печалба е 1,1 млрд. долара.

В такива условия всеки пробив в системите за поддръжка може да има последствия не само за клиентите, но и за репутацията на корпорацията като цяло. Случаят с Lena e нагледен пример за това как недостатъчното внимание към сигурността при внедряването на инструменти за изкуствен интелект се превръща в заплахи, сравними с уязвимостите в критични приложения.