Учените са открили ключова уязвимост в сигурността на изкуствения интелект

Изследователите са открили сериозна уязвимост в сигурността на невронните мрежи, показвайки, че моделите на изкуствен интелект могат да бъдат откраднати чрез анализиране на електромагнитните сигнали на устройствата, на които работят. Техниката, демонстрирана на Google Edge TPU, ви позволява да възпроизведете архитектурата и функционалността на AI-модел с 99,91% точност, дори и без предварително познаване на неговите характеристики, пише SciTechDaily.

Методът е базиран на мониторинг на промените в електромагнитното поле по време на работата на модела. Събраните сигнали се сравняват с база данни, съдържаща сигнатурите на други модели. Така изследователите пресъздават слоевете на AI стъпка по стъпка, използвайки електромагнитните „подписи“ на всеки от тях. Това позволява създаване на копие на модела без директен достъп до него.

Техниката работи на много устройства, при условие че нападателят има достъп до устройството, докато AI-моделът работи и до друго устройство с подобни характеристики. Демонстрацията използва търговския TPU чип Google Edge, който намира широко приложение в устройствата на крайните потребители.

Уязвимостта не само излага на риск интелектуалната собственост, но също може да отвори достъп до уязвимости на модела, позволявайки на трети страни да предприемат атаки. Авторите призовават разработчиците да прилагат допълнителни предпазни мерки за защита на моделите от този тип атаки.

Работата, която беше подкрепена от Националната научна фондация на САЩ, беше представена на Конференция за криптографски хардуер и вградени системи. Изследователите също са информирали и Google относно откритата уязвимост.