Google обвини за странните отговори на ИИ-търсачката самите потребители и липсата на данни за обучението на LLM модела

Миналата седмица Google добави блок от резюмета към своята търсачка, които се изготвят от генеративен изкуствен интелект. Компанията се опита да подобри качеството на търсачката, но изкуственият интелект започна да дава на потребителите странни отговори, като например ги съветваше да ядат камъни и да лепят сиренето на пицата. Компанията бързо изтри най-скандалните резултати, но те вече се бяха превърнали в мемета. Сега ръководителят на отдела за търсене на компанията Лиз Рийд (Liz Reid) направи коментари.

Тя обвини за неточните AI резултати, генерирани при търсенето, „празнотата на данните“ и самите потребители, които задават странни въпроси. Според нея, блоковете с описания, които генеративният AI създава, дават на потребителите „по-голямо удовлетворение“ от услугата за търсене. Генерираните от AI отговори като правило не са халюцинации — системата просто понякога тълкува погрешно това, което е в Интернет.

„Няма по-добър аргумент от това милиони хора да използват тази функция с много нови заявки. Отчитаме и нови безсмислени запитвания, които изглежда са имали за цел да доведат до грешни резултати“ — казва Рийд. Компанията обаче продължава да работи върху функцията, като ограничава появата на AI-резюмета в резултатите от търсенето при „безсмислени“ заявки и при работа със сатирични материали. Това е важно, защото първоначално системата може да цитира сатиричен ресурс или да се позове на потребител на социална мрежа с неприличен псевдоним.

Рийд също сравнява резюметата на AI с функцията за търсене „Специални описания“, които представляват блокове от текст с подходящи уеб-страници, предоставени без използването на генеративен изкуствен интелект. „Нивата на точност“ на двете функции са приблизително идентични, казва изпълнителният директор.