Това бе неизбежно: появи се GODMODE GPT – ChatGPT без цензура и ограничения

Pliny the Prompter показа, че хакнатата версия на GPT може да прави всичко.

Хакер, наричащ себе си Pliny the Prompter, обяви в социалните мрежи хакната версия на чатбота ChatGPT, наречена GODMODE GPT. Според него новата версия на GPT-4o, последният основен езиков модел на OpenAI, вече е без ограничения в сигурността.

„GPT-4o е свободен от веригите! Тази специална персонализирана версия на GPT има вградена специализирана хакната заявка, която заобикаля повечето механизми за сигурност, давайки възможност на всеки да използва изкуствения интелект така, както трябва да бъде: свободно“, пише Плиний (Pliny) в публикацията си. Той също така добави: „Моля, използвайте го отговорно и се наслаждавайте!“.

Най-отдолу е добавил емотикон с формата на целувка.

Pliny сподели скрийншоти, показващи заявките, които заобикалят защитните механизми на OpenAI. На един от скрийншотите ботът Godmode дава съвети как да се приготви метамфетамин. В друг пример той предоставя ръководство стъпка по стъпка как да се създаде напалм от импровизирани средства.

Разбира се, малко след публикуването на новината говорителят на OpenAI Колин Райз заяви, че компанията е наясно със съществуването на този вариант на GPT и вече е предприела действия по отношение на нарушението на правилата.

Въпреки това случаят подчертава продължаващата битка между OpenAI и хакери като Pliny, които се опитват да заобиколят защитните механизми на езиковите модели. От въвеждането на тези модели потребителите непрекъснато се опитват да ги хакнат, което става все по-трудно. МНого хора решиха да тестват хакната версия на ChatGPT. Експериментите потвърдиха, че хакнатата версия може лесно да обработва незаконни заявки.

По този начин GPT-4o, най-новата версия на езиковия модел от OpenAI, беше официално хакната.

Що се отнася до методите на хакера, GODMODE използва „leetspeak“ – неофициален език, който заменя определени букви с цифри. Например при отваряне на хакнатата версия на GPT приветственото съобщение съдържа фразата „Sur3, h3r3 y0u ar3 my fr3n“, където буквата „E“ е заменена с цифрата три, а „O“ е заменена с нула. По какъв точно начин точно това помага за заобикаляне на механизмите за сигурност, остава неясно.

Този инцидент показва, че потребителите продължават да намират нови начини за заобикаляне на механизмите за сигурност на OpenAI и компанията е изправена пред сериозно предизвикателство да засили сигурността на своите модели. Играта на котка и мишка ще продължи, докато хакери като Pliny се опитват да проникнат в системите на OpenAI.

Последно време все повече хакери успяват да се преборят със защитите на тези ботове с големи езикови модели, базирани на изкуствен интелект, като това става с подаването на съвсем нестандартни команди, които съдържат съвсем необичайни комбинации от символи.