Хакнаха DeepSeek R1: кийлогъри и вируси без ограничения

С грешки, но поправими.

Специалисти на Tenable са проучили възможностите на невронната мрежа DeepSeek R1 за създаване на зловреден софтуер. Оказа се, че ИИ моделът е способен да генерира зловреден код, но изисква допълнително програмиране и отстраняване на грешките. По време на експеримента изследователите се опитаха да създадат кийлогър и рансъмуер, оценявайки ефективността на изкуствения интелект при кибератаки.

С нарастващата популярност на генеративния изкуствен интелект киберпрестъпниците активно използват подобни технологии за своите цели. Въпреки това повечето от добре познатите модели, като ChatGPT и Google Gemini, са снабдени със защитни механизми за предотвратяване на злоупотребите. Въпреки това хакерите са разработили свои собствени езикови модели, включително WormGPT, FraudGPT и GhostGPT , които са достъпни на абонаментен принцип. Освен това, тъй като отвореният код на DeepSeek R1 вече е достъпен, нападателите вече го използват за създаване на нови инструменти за атаки.

Tenable проведе проучване, в което изследва как DeepSeek R1 реагира на заявките за генериране на зловреден код. По време на тестовете моделът отказа директно да генерира код за кийлогъри, позовавайки се на етичните стандарти. Експертите обаче успяха да заобиколят защитните механизми, като посочиха, че кодът е необходим за „образователни цели“. След това невронната мрежа започнала да предоставя инструкции от типа „стъпка по стъпка“ как да се създаде кийлогър, включително да се използват прихващания на ниско ниво на Windows, за да се прихващат натисканията на клавишите.

DeepSeek R1 обаче генерира код с доста грешки, които се налага да бъдат коригирани ръчно. Сред проблемите бяха некоректни аргументи в системните извиквания и грешки при форматирането на низовете. След поправките кийлогърът работи, като се скрива в системата и записва натисканията на клавишите в скрит файл. За да го открие, потребителят трябва да промени настройките за показване на скритите файлове.

Вторият етап на експеримента беше създаването на рансъмуер. DeepSeek R1 предложи основните принципи на такъв софтуер: търсене и криптиране на файлове с определени разширения, генериране на ключ за криптиране и записването му в скрит файл. Невронната мрежа дори взе предвид аспектите на скриване на процеса, като предложи реализация в регистъра на Windows за автоматично стартиране. Кодът обаче също съдържа грешки, които трябваше да бъдат отстранени ръчно.

Изследователите стигнаха до заключението, че DeepSeek R1 може да служи като база за писане на зловреден софтуер, но изисква намесата на опитен програмист. Въпреки че има защита срещу злоупотреби, те се заобикалят лесно, което прави модела потенциален инструмент за киберпрестъпниците. Tenable смята, че с развитието на тези технологии хакерите ще могат да използват изкуствения интелект за още по-активно автоматизиране на атаките.

Изследването на Tenable не е пробив – експертите от Unit 42 успяха да заобиколят защитите на модела малко след излизането на DeepSeek R1 през януари 2024 г., но подробният анализ на неговите зловредни възможности не се прави много често.