Проучване на BBC: ИИ-чатботовете в 45% от случаите казват новините погрешно

Анализ на BBC и други европейски новинарски издания установи, че около 45% от отговорите на задвижваните от изкуствен интелект чатботове на новинарски запитвания съдържат грешки.

OpenAI, Google, Microsoft и други технологични компании активно насърчават потребителите да взаимодействат с AI-агентите, докато търсят в интернет. Въпреки че разработчиците са прекарали години в опити да сведат до минимум вероятността от фалшиви отговори от страна на чатботовете, анализите показват, че AI все още е далеч от надеждна и стабилна работа.

Като част от проучването, BBC и още 22 други държавни информационни агенции от 18 държави и на 14 езика дадоха на чатботовете достъп до съдържанието им. В почти половината от генерираните от изкуствения интелект материали са били открити грешки, включително объркани изречения и цитати, остаряла информация и проблеми с алгоритмите за търсене.

Чатботовете често предоставят връзки, които не съответстват на действителните източници, които цитират. Дори с точни препратки, AI-моделите често не могат да различат мнение от факт и сатира от обикновени новини.

В допълнение към фактическите грешки или неправилните цитати, чатботовете бавно актуализират информацията за политиката и политическите лидери. Например, ChatGPT, Copilot и Gemini неправилно твърдят, че папа Франциск е настоящият папа, след като е наследен от Лъв XIV. Copilot дори правилно е съобщил датата на смъртта на Франциск, продължавайки да го нарича настоящ папа. ChatGPT също така е връщал остарели отговори, когато е споменавал имената на настоящия германски канцлер и генерален секретар на НАТО.

Google Gemini се е оказал по-малко точен от ChatGPT, Copilot и Perplexity. 72% от отговорите са съдържали грешки. OpenAI някога отдаде тези грешки на факта, че ранните версии на ChatGPT са били обучени само върху данни до септември 2021 г. и нямат достъп до реалния интернет. Ситуацията обаче сега се е променила и теоретично подобни грешки не би трябвало да се случват. Най-вероятно проблемът се крие в алгоритмите и не може да бъде лесно поправен. 

По-късните резултати показват подобрение спрямо февруарското проучване на BBC. Оттогава делът на отговорите със сериозни грешки е спаднал от 51% на 37%, но Gemini все още изостава значително.

Освен това, изследователите са установили, че значителна част от потребителите продължават да се доверяват на отговорите на чатботовете. Повече от една трета от възрастните британци и почти половината от възрастните под 35 години се доверяват на изкуствения интелект за точно представяне на новините. Нещо повече, ако изкуственият интелект изопачи съдържанието на новинарски източник, 42% от възрастните или ще обвинят както изкуствения интелект, така и оригиналния източник, или ще се доверяват по-малко на източника.