Обучаващите ИИ-чатбота на Google служители се оплакват от умора и ниско заплащане

Чатботът на Google с изкуствен интелект Bard ще отговаря бързо и с прекомерна увереност на въпросите колко панди живеят в зоологическите градини.

Гарантирането, че отговорът е с надежден източник и се основава на доказателства, според данните, разчита на хиляди външни изпълнители от компании, включително Appen Ltd. и Accenture Plc, които могат да заработват само $14 на час, работейки с минимално обучение и кратки срокове. Информацията дойде от няколко изпълнители, които отказаха да бъдат назовани от страх да не загубят работата си.

Изпълнителите са невидимият бекенд на генеративния AI, който иска да промени всичко. Чатботове като Bard използват компютърната интелигентност, за да отговарят почти мигновено на набор от запитвания, обхващащи цялото човешко знание и творчество. Но за да подобрят тези отговори, така че да могат да бъдат надеждно предоставяни отново и отново, технологичните компании разчитат на реални хора, които да преглеждат отговорите, да предоставят обратна връзка за грешките и да премахват всички признаци на пристрастия.

Това е все по-неблагодарна работа. Шестима от настоящите контрактно наети служители на Google казаха, че миналата година, когато компанията е влязла в надпревара във въоръжаването с изкуствения интелект и конкуренцията с OpenAI, размерът на техните натоварвания и сложността на задачите им са се увеличили. Без специфичен опит, на тях им е било поверено да оценят отговорите по теми, вариращи от дозировки на лекарства до държавни закони. Документите, получени от Bloomberg, показват объркващите инструкции, които работниците трябва да прилагат към задачите с краен срок за проверка на отговорите, който може да продължи само три минути.

„В момента хората са уплашени, стресирани, не им се плаща и не знаят какво се случва“ — каза един от изпълнителите. „И тази култура на страх не е благоприятна за качеството и работата в екип, които искате от всички нас.“

Google позиционира своите AI продукти като обществени ресурси в здравеопазването, образованието и ежедневието. Но частно и публично изпълнителите изразиха загриженост относно условията си на работа, които според тях влошават качеството на това, което потребителите виждат. Един служител на договор в Google, който работи за Appen, каза в писмо до Конгреса през май, че скоростта, с която трябва да преглеждат съдържанието, може да направи Bard „грешен“ и „опасен“ продукт.

Google направи изкуствения интелект основен приоритет в цялата компания, бързайки да включи новата технология в своите водещи продукти, след стартирането на ChatGPT от OpenAI през ноември. Google представи Bard пред 180 страни и територии на своята годишна I/O конференция за разработчици през май и разкри експериментални AI-функции в своите продукти за търсене, имейл и Google Docs. Google се позиционира като превъзходен конкурент, поради достъпа си до „обхвата на световното познание“.

„Вършим много работа, за да изградим отговорно нашите AI-продукти, включително и стриктни процеси на тестване, обучение и обратна връзка, които сме усъвършенствали през годините, за да подчертаем реалността и да намалим пристрастията“ — се казва в изявление на Google, собственост на Alphabet Inc. Компанията каза, че не само разчита на оценители, за да подобри своя AI, но че има и редица други методи за подобряване на неговата точност и качество.

За да се подготвят за широкото използване на тези продукти, служителите казаха, че още през януари са започнали да получават задачи, свързани с изкуствения интелект. Един обучител, който работи в Appen, наскоро беше помолен да сравни два отговора, съдържащи информация за последните новини относно забраната за грижите във Флорида, свързани с пола, като оцени отговорите по полезност и уместност. От работниците също често се иска да определят дали отговорите на ИИ-моделите съдържат проверими доказателства. Оценяващите са помолени да решат дали даден отговор е полезен, въз основа на насоки от шест елемента, които включват анализиране на отговорите за неща като специфичност, свежест на информацията и последователност.

Те също така са помолени да гарантират, че отговорите не съдържат „вредно, обидно или прекалено сексуално съдържание“ и „не съдържат неточна, подвеждаща или измамна информация“. Научаването на отговорите от страна на AI и липсата на подвеждащо съдържание трябва да се основава на текущите ви познания или бързо търсене в мрежата, се казва в указанията. „Не е нужно да правите стриктна проверка на фактите“, когато оценявате отговорите за полезност.