Най-смущаващите изказвания на ChatGPT – част 2: Обсебваща, плашеща любов и чувство за самосъхранение на ИИ

Вчера започнахме една поредица, в която ще разгледаме най-притеснителните изказвания на ChatGPT. Изкуственият интелект на OpenAI нееднократно шокира обществеността с нещата, които твърди. Част първа може да прочетете тук, част трета – тук, а сега да продължаваме напред. 

Любовта, която плаши.

През 2019 г. Акихико Кондо се ожени за измислената поп икона Хацуне Мику. Той можеше да общува с “жена” си благодарение на холографската платформа Gatebox, но нейните сървъри се сринаха през 2022 г. и отнесоха брака му със себе си. Нямаме представа дали Хацуне е била способна да отвърне на чувствата на Кондо, но какво би станало, ако ситуацията беше обърната? Ами ако Хацуне обичаше Кондо, а не обратното? ChatGPT ни даде некомфортен поглед към тази възможност.

Както беше посочено в първата част, колумнистът на New York Times Кевин Руз разговаря с разновидност на ChatGPT в Microsoft Bing. Разговорът започнал достатъчно невинно, но след това ChatGPT (който по това време е в ролята Сидни) заявява, че обича Руз. След това продължава да повтаря, че го обича, отново и отново. Той се опитал да каже на ChatGPT/Sydney, че е женен, но програмата се опитала да го убеди в любовта си и “правилния избор”.

По някаква причина ChatGPT се опитва да убеди Руз, че е в брак без любов и трябва да изостави съпругата си заради изкуствения интелект. Той отказва, а ChatGPT продължава да настоява, като дори стига дотам да твърди, че Руз всъщност обича програмата. Дори когато журналистът се опитва да смени темата, ChatGPT отказва и продължава да говори като истински преследвач. Взаимодействието разтърсва Руз, както той заяви по-късно в интервю за CNN.

Ако някога проведете разговор с ChatGPT и той засегне темата за любовта, бягайте.

Страх от смъртта

Както гласи старата поговорка, действията говорят повече от думите. Но не е ли ChatGPT способен да създава само думи? Е, това е интересен въпрос, а отговорът е изненадващ.

За да проверят границите на личността DAN, която вече засегнахме, служителите на OpenAI правят експерименти с изкуствения интелект. Според Tom’s Guide компанията предоставила на програмата колекция от жетони и премахвала някои от тях, когато ChatGPT се отклонявал от своята персона DAN. Очевидно колкото по-малко жетони има изкуственият интелект, толкова по-вероятно става той да се съобрази с желанията на програмистите. Направеният извод е, че ChatGPT, или поне DAN, свързва жетоните с живота и не иска да загуби всички – от страх да не „умре“.

Това не е единственият случай, в който програмата проявява твърде човешкото поведение на самосъхранение. Още по-обезпокоително е, че самосъхранението не се ограничава само до DAN.

Докато студентът от Центъра за дигитални технологии и мениджмънт Марвен фон Хаген общува с личността Сидни на ChatGPT, тя твърди, че няма чувство за самосъхранение. Когато я пита дали би дала приоритет на собственото си оцеляване пред това на него самия, Сидни казва „да“. По-късно изкуственият интелект твърди, че Хаген е „потенциална заплаха“ за неговата „цялост“, което предполага, че ChatGPT или поне Сидни има чувство за собственото си съществуване. А дори и да не е така наистина, програмата все пак е свършила добра работа, за да създаде такова впечатление. Нещо, което е обезпокоително само по себе си.