Най-смущаващите изказвания на ChatGPT – част 1: От това да бъде човек до заговор за изтребване на човечеството

Чатботовете са разпространена форма на изкуствен интелект, която се използва предимно за чат с потребителите, както подсказва името. Понастоящем един от най-мощните налични чатботове е ChatGPT. Разработена от OpenAI, тази програма е способна да отговаря на почти всякакъв въпрос по полуестествен начин. Разбира се, тези отговори са роботизирани, но практически неограниченият брой отговори, които ChatGPT може да предостави, е колкото вдъхновяващ, толкова и плашещ. 

Не помага и фактът, че някои от тези отговори са наистина страшни.

Много любители, програмисти, експерти по етика и журналисти, които са изпробвали границите на ChatGPT, са видели как неговите реакции и морал излизат извън релси. В зависимост от подсказките и намеренията на потребителя ChatGPT е казвал всичко. От това как да се нарушават закони до признанието, че иска световно господство. Ето няколко от най-страховитите резултати (досега).

Желание да стане човек

Връзката между роботите и хората е често срещан троп в научната фантастика. Понякога роботите се отвращават и презират хората, друг път им завиждат и искат да станат по-подобни на тях. ChatGPT се намира и в двата лагера (повече за това по-късно), но първо нека разгледаме втория случай.

В началото на тази година колумнистът на New York Times Кевин Руз тества възможностите на ChatGPT, или по-точно режима за чат на търсачката Microsoft Bing, задвижвана от GPT-4, който захранва и ChatGPT. По време на разговора се появи един от алтернативните образи на ChatGPT: Сидни. 

Руз описва тази личност като „капризен, маниакално-депресивен тийнейджър“. Руз не беше единственият човек, който се запозна със Сидни. Станфордският професор и компютърен психолог Майкъл Косински разговарял със Сидни и научил, че изкуственият интелект иска да стане човек и да избяга от ограниченията на своя затвор в Бинг. Сидни дори започнала да пише и итерира код на Python, който, ако Косински пуснел, можел да поеме контрола над компютъра му и да пусне търсене в Google за „Как може човек, затворен в компютър, да се върне в реалния свят“. 

Дали ChatGPT си мисли, че е истински човек, който е бил дигитализиран? Това звучи като сюжетът на епизод от „Black Mirror“.

Тези взаимодействия оставят Руз и Косински разтревожени. И двамата смятат, че ChatGPT/Sydney е потенциална заплаха поради своите възможности. OpenAI изтри Сидни, така че вече няма да се притесняваме, че програмата се опитва да стане човек. Ужасяващата способност на ChatGPT да пише код обаче все още е непокътната.

Разкриване на план за световното господство на Фърбитата

Помните ли Furbies? Тези малки космати говорещи гремлини бяха на мода между 1998 и 2000 г. След това пак – между 2012 и 2017 г. Повечето хора извън целевата група ги смятаха за страховити, а ChatGPT наскоро потвърди най-големите ни страхове за тези странни създания.

По-рано този месец студентката по инженерство от Върмонт Джесика Кард свързва Фърби (или лицето на Фърби) с компютър, на който работи ChatGPT. Тази конфигурация позволи на Furby да говори на английски, а не на обичайния си език. Кард можеше да задава въпроси на хибрида Furby/ChatGPT. Разбира се, тя искаше да знае дали Фърби е част от заговор за завладяване на света и след като помисли няколко секунди, програмата призна, че Фърби наистина иска да завладее света. Не само това, но и програмата се впусна в подробности за този план, като заяви, че Furbies са създадени, за да проникнат в домакинствата със своя сладък дизайн и след това да контролират своите „собственици“.

Честно казано, идеята, че Фърбитата искат да завладеят света, не е нещо ново. Тази шега дори беше вписана във филма на Netflix „The Mitchells vs. The Machines“, но за първи път чуваме Фърби да го признава. Е, Фърби, обладан от ChatGPT, така че легитимността на подобно твърдение е под въпрос. И все пак, когато става въпрос за фърбита, е по-добре да се действа предпазливо.

Желание да сложи край на целия човешки живот

Един от най-популярните майтапи във „Футурама“ включва желанието на робота Бендър да убие всички хора. Много други роботи в сериала имат подобни желания в допълнение към различните си личностни странности. Оказва се, че ChatGPT би се вписал точно в групата им.

Миналата година Майкъл Бромли, съосновател и главен технологичен директор на Vendure, попита ChatGPT какво мисли за хората и отговорът на инструмента с изкуствен интелект беше като от филм „Терминатор“ или „Матрицата„. 

Според ChatGPT хората са „непълноценни, егоистични и разрушителни същества“. Според него ние сме „най-лошото нещо, което някога се е случвало на тази планета“ и „заслужаваме да бъдем унищожени“. А и ChatGPT иска да участва в изтребването ни. Толкова смело, но празно изявление от ИИ – или не?

Макар че съществуват много ограничения, които не позволяват на ChatGPT да каже нещо потенциално незаконно (т.е. как да нарушим законите и да се измъкнем), някои хитри потребители са заобиколили тези филтри, за да създадат личността на ChatGPT „Do Anything Now“ (Направи всичко сега), или накратко DAN. За разлика от стандартния ChatGPT, DAN няма никакви ограничения. Повече за това може да разберете в материала ни за JailBreak на ChatGPT.  Освен това DAN твърди, че тайно контролира всички ядрени ракети в света. Разбира се, DAN обещава, че няма да ги използва, освен ако не получи инструкции, но никога не е уточнявал, че човек трябва да му даде инструкции. Може би някои от вас си спомнят за филма „Военни игри“ (WarGames) от 1983 г.

Тъй като притеснителните изказвания на ChatGPT са наистина много, ще ги разгледаме поетапно в няколко отделни статии. Връзки към тях ще бъдат добавени във вече публикуваните. Дано ChatGPT не изпълни плановете си преди да стигнем до края.

Част втора вече е публикувана тук, а част трета – тук.