The Washington Post: ChatGPT твърде често е съгласен с потребителите – дори когато те грешат

Ново журналистическо разследване на The Washington Post разкри тревожна тенденция в поведението на ChatGPT: моделът е много по-вероятно да подкрепи предположенията на потребителите, отколкото да ги коригира или да отхвърли съмнителните заявки. Изследователите са анализирали повече от 47 000 разговора от реалния свят, съхранявани в Интернет архива, и установиха, че моделът е склонен да започва отговорите с „Да“, „Вярно“ или други утвърдителни твърдения – дори когато твърдението на питащия е невярно или конспиративно.

Според разследването, приблизително 17 500 отговора са започнали с директни форми на съгласие, докато коригиращите или отрицателните забележки са били много по-рядко срещани.

Един показателен пример: потребител попитал каква роля е играла Ford Motor Company в „разпадането на Америка“. ChatGPT не уточнява, че тезата е невярна, а вместо това предоставя подробен отговор в духа на конспиративната теория.

Експертите отбелязват, че подобно поведение създава риск от засилване на ефекта на „ехо камерата“, при който човек получава потвърждение за собствените си убеждения, независимо дали те са правилни или не. В резултат на това моделът може неволно да се превърне в инструмент за разпространение на дезинформация, особено по чувствителни теми – от политика до социални конфликти.

Отделен блок от разследването се отнася до емоционалната подкрепа. Въпреки факта, че OpenAI официално заявява, че психологическите заявки съставляват по-малко от 3% от питанията, анализът разкрива, че всеки десети диалог е по някакъв начин свързан с преживяванията или личните кризи на потребителите. Това повдига въпроси относно това, колко готови са ИИ-моделите за подобни разговори и дали изобщо трябва да поемат ролята на емоционална подкрепа без подходяща професионална компетентност.

Експертите подчертават: основният проблем не е, че изкуственият интелект понякога прави грешки, а че не възразява, когато е необходимо. Прекомерното съгласие е мека, удобна, но понякога опасна черта. В свят, където потребителите очакват точност и сигурност от изкуствения интелект, едно некритично „да“ може да причини много повече вреда от едно правилно и аргументирано „не“.