OpenAI, компанията създател на чатбота с изкуствен интелект ChatGPT, обяви своя bug bounty програма, в която потребителите могат да докладват за „уязвимости, грешки или пропуски в сигурността“ и да получат финансово възнаграждение за откриването им. Компанията обяви награди от 200 до 20 000 долара в зависимост от сериозността на случая и се обедини с популярна платформа за намиране на уязвимости, за да оптимизира процеса.
ChatGPT на OpenAI предоставя изчерпателни решения на потребителски запитвания и дори може да симулира интригуващи образи с помощта на няколко текстови подсказки.
Макар че технологията се развива със зашеметяващи темпове и дава някои умопомрачителни резултати, съществуват и опасения относно безопасността на тези продукти. Изследователи на изкуствения интелект като Стюарт Ръсел предупреждават, че без контрол възходът на изкуствения интелект може да доведе до инцидент в технологичната индустрия, подобен на този в Чернобил.
Bug bounty програмата на OpenAI
OpenAI се стреми да увери своите потребители, че продуктите са безопасни и са обстойно тествани, преди да бъдат пуснати на пазара. С програмата Bug Bounty компанията признава, че нейните системи могат да имат недостатъци и уязвимости, но се стреми да си сътрудничи с експерти извън своята организационна област, за да ги открие и отстрани.
В публикация в блога си OpenAI заяви, че кани общността на изследователите на сигурността да участва и да докладва за недостатъци в системата им, за да я направи по-безопасна за всички. Компанията е предвидила и стимули в зависимост от сериозността на откритите недостатъци.
Откритията с ниска степен на сериозност могат да донесат награда от 200 долара, а откритията с изключителна степен на сериозност могат да получат награда до 20 000 долара. Bugcrowd, водеща платформа за възнаграждения за уязвимости ще се занимава с процеса.
Съгласно уебсайта на Bugcrowd за програмата, въпроси, свързани със съдържанието на подканите или отговорите на модела, като например да се накара моделът да напише злонамерен код или да каже лоши неща, не са част от обхвата на програмата.
Това, което е включено, са цели на API, ChatGPT, корпоративни цели на трети страни, които потенциално могат да разкрият поверителна информация на OpenAI, и ключове от API-то на OpenAI. Валидирането на открита уязвимост приключва за около два часа. Досега са възнаградени 14 уязвимости със средна сума за изплащане от близо 1300 долара.
Участието в Bug Bounty програмата също така означава, че потребителите не могат да разкриват публично намерените от тях уязвимости. Въпреки че OpenAI призова за прозрачност чрез това сътрудничество, не е ясно дали компанията планира да публикува списък с уязвимостите, след като те бъдат отстранени.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
