DDoS заплаха №1: ChatGPT може да срине всеки уебсайт за секунди

Изследователят в областта на сигурността Бенджамин Флеш е открил уязвимост в API-то на ChatGPT, която позволява на атакуващите да инициират DDoS атаки срещу произволни сайтове чрез чатбота. Уязвимостта е свързана с неправилна обработка на списъка с URL адреси, предавани в заявките към API и с липсата на механизми за ограничаване на броя на заявките към един ресурс.

В доклад в GitHub Flash се обяснява, че една HTTP заявка към ChatGPT API може да доведе до множество заявки към определен сайт, генерирайки между 20 и 5000 заявки в секунда. Това създава натоварване, което може да доведе до претоварване и съответно до отказ на сървъра на жертвата.

Уязвимостта се крие в параметъра „urls[]“, който приема списък от хипервръзки. OpenAI не проверява дали връзките към един и същ ресурс се повтарят и не ограничава броя на връзките в заявката. Това дава възможност да се изпратят хиляди различни заявки, водещи към един и същ сайт, което кара уеб обхождащата програма ChatGPT да ги достъпва една по една, създавайки DDoS ефект.

Атаката е възможна без удостоверяване на автентичността, а заявките се изпращат чрез сървъри на OpenAI, работещи в Microsoft Azure. В същото време заявките преминават през прокси сървъри на Cloudflare, което прави източниците им различни. Това затруднява блокирането на IP адресите от страна на жертвата на атаката. Флеш заяви, че е докладвал за уязвимостта на OpenAI чрез платформата BugCrowd, както и на Microsoft и HackerOne но така и не е получил отговор.

В допълнение към описаната по-горе опасност от DDoS, API е бил уязвим и към атака от типа Prompt Injection. Тази уязвимост позволява на бота не само да събира данни, но и да отговаря на потребителски заявки, въпреки че API е проектиран единствено за събиране на информация от уебсайтове.

Prompt Injection включва манипулиране на входни данни по начин, който кара система (например модел с изкуствен интелект или чатбот) да извърши нежелани или злонамерени действия. Нападателят въвежда специални команди или текст, който се интерпретира от системата като инструкция, а не като нормална потребителска заявка. Това може да доведе до изтичане на поверителна информация, изпълнение на неразрешени операции или други неблагоприятни последици.

Флеш изрази учудване, че OpenAI не е приложила основни мерки за защита, като например проверка за дублиращи се връзки, ограничаване на техния брой или предотвратяване на изпращането на заявки към недостъпни ресурси. Според него проблемът може да е свързан с използването на т.нар. агенти с изкуствен интелект, които вероятно се използват за обработка на параметрите на заявките.

Той добави, че липсата на такива защитни механизми за инструмент, способен да предизвика сериозно претоварване противоречи на стандартите за разработване на роботи за търсене, които отдавна са приложени в услуги като Google.