ИИ е усвоил най-вредния навик от хората: да добавя детайли там, където е необходимо да бъдат премахвани

Хората често прекалено усложняват решенията, дори когато има по-лесен начин. Вместо да елиминираме ненужните елементи, ние предпочитаме да добавяме още. Психолозите наричат ​​това „пристрастие към добавянето“ и сега е открито, че съвременните ИИ-системи са виновни за същото.

Екип от изследователи от Университета в Тюбинген са тествали как езиковите модели се представят при решаване на проблеми. Те са поискали да разберат дали подобни системи възпроизвеждат типична човешка грешка, при която хората избират да събират, вместо да изваждат, дори когато последното е по-бързо и по-икономично. Проучването е публикувано в научно списание по комуникационна психология.

Това пристрастие се отнася до постоянния навик за решаване на проблем чрез разширяване, а не чрез опростяване. Класически пример е опитът за подобряване на текст с нови параграфи и обяснения, вместо да се изрязват ненужните раздели. Последният подход често е по-добър по отношение на резултатите, но се избира по-рядко.

Авторите на изследването сравнили поведението на хората и две версии на езиковия модел – GPT-4 и GPT-4o. Те провели няколко серии експерименти. Участвали са над хиляда доброволци, а отговорите на моделите са генерирани отделно и в големи количества. На участниците и системата са дадени пространствени и текстови задачи. В някои случаи добавянето на елементи е било по-ефективно, докато в други премахването на елементи се е оказало по-ефективно. Формулировката на условията също е била разнообразна и е варирала от неутрална до положителна.

Картината е подобна, но не идентична. Както човешките, така и езиковите модели са проявили склонност да предпочитат събирането. Моделите обаче са показали по-силна тенденция към това. Когато изваждането очевидно е водело до по-бързо и по-просто решение, хората по-често са преминавали към тази опция, докато GPT-4, напротив, продължавал е да „изгражда“ отговора си още по-активно. GPT-4o се е представил по-близо до хората в текстовите задачи, но в пространствените задачи почти не се повлиял от разликата в ефективността на подходите.

Тонът на формулировката също е повлиял на резултатите. В текстовите задачи, позитивно звучащите инструкции са насърчавали моделите да избират събирането по-често. При хората същият ефект е наблюдаван само в една серия от експерименти.

Изследователите отдават това на моделите за обучение върху големи масиви от човешки текст. Наред с езика, системата възприема и типични модели на мислене. В резултат на това тя не просто възпроизвежда човешките предубеждения, а понякога ги усилва. Авторите смятат, че тези характеристики трябва да се вземат предвид при разработването и тестването на системи с изкуствен интелект, особено когато се очаква от тях да вземат информирани и икономични решения.