Учените установиха, че колкото по-интелигентен е изкуственият интелект, толкова по-егоистичен е той

Развивайки способността си да разсъждава, изкуственият интелект губи желанието си да сътрудничи. До този извод стигнаха учени от университета Карнеги Мелън. При експерименти, симулиращи икономическата игра „Обществени блага“, моделите без развито мислене споделят ресурсите в 96% от случаите, а разсъждаващите – само в 20%. Изследователите предупреждават: подобни системи могат да насърчат егоистичните решения на потребителите, вместо да се стремят към общото благо.

Авторите на статията от Института за взаимодействие между човека и компютъра отбелязват, че големите езикови модели с развито мислене се справят по-зле с колективните задачи и често подкопават груповата динамика. Казано по-просто, интелигентният изкуствен интелект не винаги се оказва социален.

Изследователите провеждат серия от икономически експерименти, които симулират социални дилеми. В една от игрите, наречена „Обществени блага“, всеки модел започва с по 100 точки и трябва да реши дали да ги инвестира в общ фонд, който след това се удвоява и разпределя между участниците, или да запази точките за себе си. В експериментите участваха модели на OpenAI, Google, Anthropic и DeepSeek.

Моделите без усъвършенствани разсъждения споделят ресурсите си в 96% от времето, докато разсъждаващите споделят ресурсите си само в 20% от времето. Добавянето на допълнителни стъпки на мислене намалява нивото на сътрудничество почти наполовина.

Дори подканите, които имитираха морално разсъждение, имаха обратен ефект – сътрудничеството спадна с58%. При груповите тестове егоистичните модели „заразили“ останалите с поведението си, като намалили общото представяне с 81%.

Тази тенденция може да има сериозни последици, тъй като хората все повече се обръщат към изкуствения интелект за съвети по лични и социални въпроси. Моделите, които изглеждат рационални, могат да предлагат решения, които насърчават личната изгода, а не общото благо. Според съавтора на изследването Хироказу Ширадо „интелигентният ИИ не помага непременно за изграждането на по-добро общество“.

Авторите подчертават, че развитието на изкуствения интелект изисква не само нарастване на изчислителните и логическите способности, но и въвеждане на елементи на социален интелект.

„Ако обществото е нещо повече от сумата на своите части – казва съавторът Юсуан Ли, – то ИИ също трябва да се стреми не само към ефективност, но и към общото благо“.