AMD, Apple и Qualcomm откриха уязвимост в своите графики, която им позволява да “подслушват“ отговорите на AI

Експертите по киберсигурност в Trail of Bits откриха уязвимостта LeftoverLocals, която засяга графичните процесори на AMD, Apple и Qualcomm, позволявайки на нападателите да прихващат данните от паметта при взаимодействието с жертвата и локално работещия модел с изкуствен интелект.

Разработчиците на централни процесори са прекарали години в усъвършенстване на сигурността на процесора и предотвратяване на течове от паметта, дори когато производителността е приоритет. Графичните процесори първоначално са били проектирани за самите графични приложения, без да се има предвид поверителността на данните. Но днес те се използват като ускорители за AI-алгоритмите, а уязвимостите на GPU стават все по-належащ проблем.

За да се възползва от уязвимостта LeftoverLocals, нападателят трябва да получи известен достъп до операционната система на целевото устройство. Съвременните работни станции и сървъри са проектирани да позволяват на множеството потребители да работят и съхраняват данните заедно — те имат начин да ги изолират един от друг — но атаката LeftoverLocals разрушава тези бариери. В резултат на това, хакерът може да извлече данни от разпределената за GPU локална памет, до която не би трябвало да има достъп.

Авторите на изследването демонстрираха как работи тази атака — те са стартирали локално голям езиков модел LLaMA със 7 милиарда параметъра, използвайки видеокартата AMD Radeon RX 7900 XT, задали са въпрос на AI и са „подслушвали“ отговора. Получените от тях данни почти напълно съвпадат с действителния отговор на системата. Атаката изисква по-малко от десет реда код за нейното извършване.

Миналото лято те тестваха 11 чипа от 7 производителя на графични процесори в няколко софтуерни среди. Уязвимостта LeftoverLocals е открита в графиките на AMD, Apple и Qualcomm; Впоследствие Google потвърди нейното присъствие в някои модели Imagination; Наличието на уязвимости за NVIDIA, Intel и Arm графиките не може да бъде потвърдено. Говорител на Apple призна проблема и каза, че уязвимостта е била коригирана за M3 и A17 чиповете, което вероятно означава, че по-ранните модели ще останат уязвими. Qualcomm каза пред Wired, че компанията е ‘в процес’ на пускане на актуализации за сигурност на своите клиенти; Според Trail of Bits, компанията е пуснала всички необходими актуализации на фърмуера. AMD каза на своя сайт, че софтуерна актуализация ще бъде пусната през март, която ще помогне за „селективното смекчаване на ефектите“ от LeftoverLocals. Google съобщи, че е пуснала актуализация на ChromeOS за устройствата, базирани на чиповете AMD и Qualcomm.

Въпреки това, Trail of Bits предупреждава, че може да не е лесно за крайните потребители да получат всички тези софтуерни актуализации. Производителите на чипове пускат нови версии на фърмуера, а компаниите за производство на компютри и компоненти ги внедряват в най-новите версии на собствения си софтуер, който впоследствие се прехвърля на крайните собственици на оборудването. Предвид големия брой играчи на световния технологичен пазар, координирането на действията на всички страни не е лесно. За да работите с LeftoverLocals, е необходимо определено ниво на достъп до целевите устройства, но съвременните хакове се извършват чрез цели вериги от уязвимости и това може да е само една от връзките.

От друга страна, изследователите са установили, че организирането на атака чрез LeftoverLocals изглежда малко вероятно в сценариите на облачните провайдери, мобилните приложения и хакването чрез уеб-ресурси. Но производителите на графични процесори ще трябва да свикнат с идеята, че ще вземат предвид и поверителността на данните, тъй като графичните карти в момента се използват за нещо повече от обработка на графики.