Невидимите „учители“ на Bard надигат глас

За мнозина чатботовете, разчитащи на изкуствен интелект може да изглеждат като някаква форма на магия, но истината е, че тук няма нищо вълшебно. Програми, като ChatGPT и Bard разчитат на проучванията в областта на изкуствения интелект от последните 80 години, алгоритми, написани от софтуерни инженери и огромни бази данни, съдържащи човешкото познание. Но има и друг компонент в създаването на тази „магия“, за който компании като OpenAI, Google, Amazon и др. предпочитат да не говорят – хиляди хора, грижещи се за това отговорите предоставяни от тези програми да са релевантни, безпристрастни и коректни. В Kaldata вече сме ви разказвали за ежедневието на подобни „учители“ на изкуствен интелект. В началото на тази година, репортаж разкри как хора в Кения отговаряли за предоставянето на безопасно съдържание от страна на ChatGPT, получавайки мизерно заплащане при работни условия, които застрашавали психичното им здраве. А сега, нов репортаж, публикуван от Bloomberg разкрива сходна ситуация при Google и техния чатбот Bard.

Американската медия разкрива ежедневието на служителите от компании, като Appen и Accenture, които се грижат за обучението на чатботовете, като и тук имаме сходна ситуация с тази на кенийските им колеги – ниско заплащане, гонене на невъзможни за изпълнение срокове, психическо и нервно напрежение. Въпросните служители се грижат да коригират отговорите на програмите, да етикетират предоставеното им съдържание според предварително зададени правила и да разбират от широк кръг области на познанието – от медицина, през култура, философия и какво ли още не. Източниците на изданието, пожелали анонимност от страх, че може да бъдат уволнени, разкриват една съвсем не приказна обстановка зад „магията“ на Bard.

„Към настоящия момент, хората са уплашени, ниско платени, не знаят какво се случва. И тази култура на страх не предразполага към получаването на качеството и екипната работа, която се изисква от нас“, споделя един от тези служители пред Bloomberg. „Както публично, така и в лични разговори, контракторите изразяват притесненията си относно работните условия, които по думите им, влияят негативно на това, което потребителите виждат“, пише Дейви Алба от медията. През май един от служителите на Appen изпраща и писмо до американския конгрес, в което описва ситуацията, споделяйки мнението си, че скоростта, с която се изисква да бъде прегледано съдържанието може да доведе до превръщането на Bard в дефектен и даже опасен продукт.

Водейки се по предоставени им ръководства и инструкции, проверяващите трябва да оценяват различни аспекти от предоставяните от чатбота отговори, оценявайки ги по скали относно полезността на отговорите, тяхната релевантност, доказателствена основа и различни други показатели, като следят също така те да не са обидни или подвеждащи. А някои от темите и въпросите тук са високорискови и евентуални грешки биха могли да доведат до крайно нежелани последици. Като например случай, в който оценител трябва да изведе информация за правилното дозиране на медикамент при високо кръвно налягане.

Що се отнася до оценката на работа на тези хора, ироничното в случая е, че представянето им се оценява от изкуствен интелект. Или поне това е мнението на Ед Стакхаус, служителят на Appen, изпратил писмото до американските конгресмени. Самите те нямат пряка обратна връзка с Google и единствения начин да оставят такава е чрез коментари в предоставените им полета за това. Google оспорват това твърдение, като заявяват, че оценката на работата на тези служители се извършва от Appen. Както Appen, така и от Accenture са отказали да коментират темата.

Служителите на тези компании споделят, че работейки за оценката на тези продукти, на тях им се налага да преглеждат различно по характер съдържание, включващо и такова, което може да навреди на психичното им здраве, като снимков материал от полетата на бойни действия, жестокост, детска порнография, език на омразата.

„Ако питате каква е тайната на Bard и ChatGPT, то тя е из целия Интернет. И става въпрос за цялата тази етикетирана информация, която тези оценители създават“, коментира за Bloomberg Лора Еделсън от Нюйоркския университет. „Хубаво е да се помни, че тези системи не са дело на магьосници, а резултат от работата на хиляди хора и нископлатения им труд“.