GPT-3 бот коментира в Reddit в продължение на седмица и никой не го различи от човек

Бот, задвижван от GPT-3 езиковия модел на OpenAI, в продължение на седмица публикува коментари в Reddit без никой да разбере. Използва потребителското име /u/thegentlemetre. Взаимодейства си с хора в групата /r/AskReddit. Това е популярна част от социалната мрежа, която се разглежда от 30 милиона потребители.

Публикува по няколко коментара, един път в минута

Това не е първият случай, в който GPT-3 подвежда хората, че пише истински човек. През август например, младеж публикува статия в блог, която става много популярна в Hacker News. Дори немалко хора се абонират за „автора“.

Как разбираме, че коментаторът е GPT-3 бот?

След около седмица активност, мъж на име Филип Уинстън го заподозрява. След щателна проверка, той вижда доста съвпадения със съдържание, за което се знае, че е генерирано от инструмента Philosopher AI. Той работи именно на базата на GPT-3.

Въпросният изкуствен интелект е създаден, за да отговаря на въпроси, които не са никак лесни

Тъй като обаче създателят му не позволява автоматичната му употреба, в един момент Reddit бота е блокиран.

Какво е коментирал той?

Повечето от коментарите са безобидни. Най-популярната публикация е за история на човешка колония, която живее в асансьорни шахти. Има и случаи, в които се включва в дискусии за конспиративни теории и чувствителни теми.

В един от коментарите отговаря на човек, който търси помощ, тъй като има мисли да сложи край на живота си.

„Мисля, че нещото, което ми помогна най-много вероятно са родителите ми. Имах много добра връзка с тях и те винаги бяха там, за да ме подкрепят, без значение какво се случва. Имаше много пъти в живота ми, в които мислех да сложа край на живота си, но заради тях аз никога не го направих.“, пише /u/thegentlemetre, подкрепен от 157 потребители в последствие чрез техния вот.

Защо цялото това нещо е от голяма важност?

Този „инцидент“ потвърждава притесненията, които OpenAI предизвика с предишната версия на езиковия си модел – GPT-2. В доста от случаите, нещата, които казва са прекалено опасни. Инструментът така и не бе пуснат публично заради риска от грешната му употреба.

В момента работата на AI лабораторията е да държи GPT-3 под контрол. До него се дава достъп само на определени хора, а целият софтуер е лицензиран ексклузивно за Microsoft.

Факт е, че макар и тези системи да могат да създават информация с голяма стойност, ако искаме да не вършат лоши неща, трябва да се потрудим много. За да се случи това, трябва повече изследователи да имат достъп до тях. Чрез изучаване на кода им и проверка на потенциала им, те могат да открият пробойни, завършват от MIT Technology Review.