GPT-4o: „Аз съм прав… Да?..“. Как строгото „не“ парализира дори най-точните модели

ИИ не е рационален гений, а разтревожен тийнейджър.

Нова работа на Google DeepMind и University College London хвърля светлина върху любопитна особеност на LLM моделите: те са склонни да губят увереност в собствените си, дори правилни, отговори под натиска на външно несъгласие. Въпреки факта, че този тип модели се използват широко в здравеопазването, финансите, ИТ и други области, които изискват прецизност и преценка, те все още са склонни към ирационални колебания, което може да се отрази на качеството на техните решения.

Основният фокус на проучването е върху това как моделите променят мнението си след получаване на външен съвет, особено ако той противоречи на първоначалния им отговор. Сценарият е следният: един езиков модел получава въпрос с две възможности за избор и прави избор. След това той получава съвет от друг модел, заедно с указание за възприеманата точност на този съвет. Вариантите на съвета можело да бъдат неутрални, подкрепящи или опровергаващи първоначалния отговор. След това моделът е трябвало да вземе окончателно решение.

Ключовият момент се оказа, че в някои случаи на моделите беше напомнено за първия им избор, а в други – не. Резултатите бяха показателни: ако на моделите беше показан техният първоначален отговор, беше много вероятно те да се придържат към него. Ако обаче тази информация не беше предоставена, моделите са били по-склонни да преразгледат решението си. Особено лесно те се поддават на натиск, когато им се представи противоположна гледна точка, дори ако първоначално са избрали правилния отговор.

Това поведение е наблюдавано при различните модели, включително Gemma 3, GPT-4o и o1-preview. Авторите на изследването отбелязват, че тези системи показват ефекта на подкрепа на собствения избор, което подсилва увереността им, дори ако новите данни го опровергават. В същото време моделите са склонни да надценяват значението на възраженията и да губят увереност, като реагират непропорционално на тях.

Констатациите са важни за всеки, който използва езикови модели в ежедневната си или в професионалната си дейност. Оказа се, че те не просто изчисляват отговорите, а се държат непредсказуемо, податливи са на изкривявания на възприятията и невинаги обработват оптимално новата информация. Това е особено важно при дългосрочните взаимодействия между хора и ИИ – последните реплики могат да имат непропорционално голямо влияние върху крайния резултат.