Теорията на игрите е разбита: Как изкуственият интелект пренаписва човешките стратегически принципи

ChatGPT разби най-човешкото нещо в нас – и ние позволихме това да се случи.

С бързото разпространение на големите езикови модели като ChatGPT много компании и потребители все по-често им делегират вземането на решения в области, вариращи от изпращането на текстови съобщения до воденето на преговори и дори вземането на решения с последици за другите. Мащабно проучване, проведено сред близо 3000 души, обаче установи, че присъствието на ИИ в междуличностните взаимодействия предизвиква сред хората твърде смесени реакции. Вместо очакваната помощ и повишена ефективност, се наблюдава намаляване на доверието, честността и сътрудничеството – основните елементи, върху които се изграждат социалните взаимоотношения.

Нов експеримент обхвана пет класически икономически игри за двама играчи – „Ултиматум“, „Доверие“, „Дилемата на затворника“, „Лов на елени“ и „Координация“. Участниците знаеха, че техният партньор в играта може да бъде реално лице или лице, което е делегирало решението на ChatGPT. В някои случаи това се е извършвало прозрачно, а в други – тайно. В резултат на това се оказа, че самите решения на изкуствения интелект, макар и рационални и често дори по-благоприятни, предизвикват негативна реакция у хората. Това води до намаляване на нивото на доверие и справедливост в игрите, до понижаване на склонността към съвместна работа и до намаляване на цялостната ефективност на взаимодействията.

Интересно е, че самите участници с готовност делегират решенията на ChatGPT – особено ако другата страна не знае за делегирането. Този подход намалява собствената им отговорност и избягва обясненията, които биха били необходими, ако вземат решението самостоятелно. В същото време степента на делегиране значително се увеличава в условията на непрозрачност: ако партньорът не знаеше дали решението се взема от човека или от изкуствения интелект, участниците са два пъти по-склонни да изберат варианта с изкуствения интелект. Това показва, че хората са наясно, че изричното участие на ИИ може да се възприеме негативно и да повлияе на резултата от взаимодействието.

Когато участниците се сблъскат с факта, че партньорът им очевидно използва ChatGPT, поведението им се променя: те предлагат по-малки суми в играта „Ултиматум“, по-малко сътрудничат в дилемите и като цяло очакват по-малко добронамереност от партньора си. Ако обаче не знаят дали става дума за човек или за изкуствен интелект, те се държат така, сякаш пред тях е истински човек. Това предполага, че именно в момента на осъзнаване на участието на ИИ се проявява предубедеността към него.

Създателите на това интересно проучване също така провериха дали персонализирането на ИИ може да промени възприятията. За тази цел участниците предварително отговарят на седем сдвоени въпроса, отразяващи личните им предпочитания (например „интуиция или преценка“, „егоизъм или алтруизъм“), а ChatGPT адаптира решенията си към тези отговори.

Дори тези мерки обаче не успяха да възстановят доверието – участниците все още смятаха, че изкуственият интелект не отразява напълно възгледите и намеренията на партньора им.

Отделна задача е била да се установи доколко добре може да се разпознае решението взето от ИИ. За тази цел на независими оценители бяха показани двойки решения, едното от които беше взето от човека, а другото – от изкуствения интелект. Без да получат пояснения, те отгатват почти на случаен принцип. Но ако решението се мотивираше, ИИ беше разпознаваем в повечето игри – обясненията му бяха по-формални, технически и се отнасяха до теоретичните очаквания. ИИ беше особено лош в прикриването си в играта „Дилемата на затворника“, където винаги избира сътрудничество, за разлика от хората, които са склонни да бъдат по-предпазливи. В същото време участниците по-често грешаха в играта „Координация“, където ИИ даде най-подобни на човешките обяснения.

Наблюдаваният ефект на намалена социална ефективност при явното участие на ChatGPT се оказа устойчив на всички външни фактори – възраст, пол, ниво на образование, дори опит в използването на ИИ. Така че не става въпрос за незнание или страх от технологиите, а за скрита социална реакция към факта, че решенията, засягащи други хора, не се вземат от човек. Дори когато даден ИИ модел действа в интерес на хората и е полезен, отношението към него остава резервирано.

Тези резултати потвърждават съществуването на феномена на отхвърляне на алгоритъма, познат от изследванията на класическите автоматизирани системи. За първи път обаче това явление бе регистрирано в контекста на универсалните езикови модели, способни на пълноценно социално взаимодействие. В този случай прозрачността на използването на ИИ, която се счита за гаранция за етичност, влошава ситуацията: когато се знае, че решението е взето от ИИ, доверието и честността падат по-силно.

Проучването показва, че бъдещите регулаторни мерки, като например законът на ЕС за ИИ, следва да отчитат не само задължението за оповестяване на факта на използване на ИИ, но и възможните отрицателни последици от тази прозрачност. Не е достатъчно просто да се уведомяват хората за използването на ИИ – необходимо е също така да се изгради доверие и да се обмислят механизми, които ще намалят възприемането на подобни решения като неетични или бездушни. В противен случай дори и най-интелигентните модели рискуват да се превърнат в социално токсични. Както показват проучванията в областта на социалното инженерство, човешкият фактор остава един от най-уязвимите елементи на всяка система, а внедряването на ИИ изисква разбиране на психологическите аспекти на взаимодействието с технологиите.