ChatGPT е хванат да лъже нагло при търсене на новини в интернет

Специалисти от Центъра за цифрова журналистика „Tow“ към Колумбийския университет тестваха търсачката в популярния чатбот ChatGPT на OpenAI, базиран на изкуствен интелект. Оказало се, че алгоритъмът не се справя много добре с търсенето на новинарски източници и често дава неточни отговори.

OpenAI пусна функцията за търсене в интернет чрез ChatGPT за потребителите през октомври тази година, като заяви, че тя е способна да предоставя „бързи и релевантни отговори с линкове към съответните уеб източници“. При тестването на инструмента обаче се установи, че той трудно разпознава цитати от статии, дори когато са публикувани от издатели, които са позволили на OpenAI да използва съдържанието им за обучение на големи езикови модели (LLM).

Авторите на изследването помолиха ChatGPT да посочи източниците на 200 цитата от 200 източника. 40 от тези цитати бяха от издатели, които бяха отказали на търсещия робот на OpenAI достъп до своите сайтове. Въпреки това, дори и в тези случаи чатботът уверено отговаряше, като даваше невярна информация, а в някои случаи признаваше, че не е сигурен в достоверността на предоставената информация.

„Като цяло ChatGPT върна частично или напълно грешни отговори в 153 случая, а само 7 пъти призна невъзможността да даде точен отговор. Само в тези 7 резултата чатботът използваше уточняващи думи и фрази като „изглежда“, „възможно е“, „може би“ или твърдения като „не можах да намеря оригиналната статия.“

се казва в изявлението на изследователите

Друга серия от тестове разкрива случаи, в които инструментът за търсене в ChatGPT дава резултати, в които цитати от писмото до редакцията на Orlando Sentinel са неправилно съотнесени към историите на списание Time. В друг пример, когато чатботът бил помолен да идентифицира източника на цитат от статия на New York Times за застрашените китове, той дал линк към уебсайт, който просто копирал и публикувал оригиналната статия.