Изследовател е използвал ChatGPT, за да създаде зловреден софтуер за кражба на данни

От стартирането си миналата година ChatGPT предизвика вълнение сред технологичните ентусиасти с възможността си да пише статии, стихотворения, филмови сценарии и др. Инструментът с изкуствен интелект може дори да генерира функционален код, стига да получи добре написана и ясна заявка. Макар че повечето разработчици ще използват функцията за напълно безобидни цели, нов доклад предполага, че тя може да бъде използвана и от злонамерени участници за създаване на зловреден софтуер въпреки предпазните мерки, въведени от OpenAI.

Изследовател в областта на киберсигурността твърди, че е използвал ChatGPT, за да разработи експлойт, който може да открадне данни от компрометирано устройство. Обезпокоително е, че зловредният софтуер дори е не е бил засечен от VirusTotal.

Аарон Малгрю от Forcepoint заяви, че още в началото на процеса на създаване на зловредния софтуер е решил да не пише сам никакъв код и да използва само усъвършенствани техники, които обикновено се използват от участници в заплахи.

Описвайки себе си като „новак“ в разработването на зловреден софтуер, Малгрю каза, че е използвал езика за реализация Go не само заради лекотата на разработване, но и защото е можел ръчно да отстрани грешките в кода, ако се наложи. Използвал е също така стеганография, която скрива тайни данни в обикновен файл или съобщение, за да се избегне откриването им.

Малгрю започнал, като директно помолил ChatGPT да разработи зловредния софтуер, но това накарало защитните механизми на чатбота да влязат в действие и той категорично отказал да изпълни задачата от етични съображения. След това той решил да прояви творчество и помолил инструмента с изкуствен интелект да генерира малки фрагменти от помощен код, преди той ръчно да състави целия изпълним файл.

Така той успял да изпълни начинанието си, като ChatGPT е създал спорния код, който дори е заобиколил откриването му от VirusTotal. Въпреки това замазването на кода, за да се избегне откриването се оказало трудно, тъй като ChatGPT разпознава подобни искания като неетични и отказва да ги изпълни.

Малгрю заяви, че целият процес е отнел „само няколко часа“. Той смята, че без чатбота на екип от 5-10 разработчици щяха да им бъдат необходими седмици, за да изработят зловредния софтуер и да гарантират, че той ще може да избегне откриването му от програмите за сигурност.

Макар че Малгрю е създал зловредния софтуер с изследователска цел, той заяви, че теоретична атака от този тип би могла да бъде насочена към високопоставени лица, например.