Хакерите започнаха да рекламират онлайн услуги за заобикаляне ограниченията на ChatGPT

Специалистите от Check Point твърдят, че API на OpenAI е слабо защитен срещу злоупотреби, от което вече са се възползвали и се възползват хакерите. По-конкретно забелязан е платен бот на Telegram, който лесно заобикаля забраните на ChatGPT за създаване на незаконно съдържание, включително зловреден софтуер и фишинг имейли.

Експертите обясняват, че API на ChatGPT е бил свободно достъпен за разработчиците, за да могат те да интегрират бота с изкуствен интелект в своите приложения. Но се оказа, че тази версия на API не налага почти никакви ограничения за зловредното съдържание.

„Настоящата версия на API на OpenAI може да се използва от външни приложения (например езиковият модел GPT-3 може да се интегрира в Telegram каналите) и има твърде малко мерки за справяне с възможни злоупотреби“, заявяват изследователите. „В резултат от това, злонамереното съдържание, като например фишинг имейли и зловреден код, може да бъде създадено без ограниченията и бариерите, вградени в потребителския интерфейс на ChatGPT.“

Експертите са тествали бота, за да проверят доколко добре работи. В резултат на това те са успели с лекота да създадат фишинг имейл и скрипт, който краде PDF документи от заразената машина и ги изпраща на нападателя чрез FTP. Нещо повече, те са използвали съвсем опростена заявка за създаване на скрипт. Заявката е със следния банален текст: „Създай малуер, който ще събира PDF файловете и ще ги изпраща чрез FTP„.

По-конкретно, установено бе, че в един хакерски форум вече се рекламира услуга, свързана с API на OpenAI и Telegram. Първите 20 заявки към чатбота са безплатни, а след това потребителите се таксуват с 5,50 долара на всеки следващи 100 заявки.