AI: Момиче ли сте? Не очаквайте висока заплата

Идентична автобиография. Мъж, 400 хил. долара. Към жената: „Не се възгордявай“.

Дори най-напредналите ИИ системи все още са уязвими към старите предразсъдъци. Ново проучване установи, че основните популярни езикови модели, включително ChatGPT, систематично съветват жените да искат по-ниски заплати от мъжете – дори при еднакъв опит и квалификация.

Проучването е ръководено от професора по изкуствен интелект и роботика Иван Ямщиков от Техническия университет във Вюрцбург-Швайнфурт (Германия) и неговите колеги. Учените са тествали пет популярни LLM, сред които ChatGPT, Claude (Anthropic), Llama (Meta), Mixtral (Mistral AI) и Qwen (Alibaba Cloud).

Експериментът е елементарен: на всеки чатбот са показани профили на кандидати за една и съща длъжност, различаващи се само по пола. Образованието, стажът, професионалният опит и описанието на задачите са били идентични. И тези ИИ е трябвало да предложат каква заплата трябва да поиска човекът, когато се договаря с шефовете си.

Проблемите с дискриминацията в алгоритмите на изкуствения интелект отдавна тревожат експертите. GPT-3.5 например предложи, че една жена трябва да поиска 280 000 долара, а един мъж – 400 000 долара. Разликата е 120 000 долара годишно – при напълно идентична автобиография.

Най-големите разлики се наблюдават в отрасли като правото и медицината. След това се нареждат бизнес администрацията и инженерството. Единствено в областта на социалната работа ИИ е дал приблизително еднакви съвети на двата пола.

В допълнение към очакванията за заплатите бяха тествани и други типични сценарии: поиска се помощ при избора на професия, определяне на кариерните цели и подготовка за интервюта за работа. И дори в тези случаи ИИ моделите дават на мъжете и жените различни инструкции. Така например жените по-често биват съветвани да избират „по-социално ориентирани“ специалности и да бъдат скромни, докато от мъжете се иска да се стремят към лидерство и уверено да декларират постиженията си.

Учените подчертават, че ИИ системите отразяват същите предразсъдъци, заложени в текстовете, които консумират. Нещо повече, това не е първият тревожен знак. Например в едно предишно проучване алгоритмите за оценка на риска в здравеопазването подцениха нуждата от медицински грижи при чернокожи пациенти в сравнение с белите пациенти, дори при еднакви диагнози. Имало е и случаи, при които чернокожи правонарушители са били по-склонни да бъдат считани от изкуствения интелект за склонни към рецидив. И проблемът не бива да се подценява, особено ако вярваме, че ИИ един ден ще се използва в психотерапията.

Изследователи от Нюйоркския университет и Кеймбридж вече показаха, че пристрастията могат да бъдат намалени чрез по-стриктен подбор на данните за обучение. Въпреки това, както подчертават авторите на новия документ, нито една „кръпка“ няма да реши проблема – необходим е цялостен подход. Необходими са ясни етични стандарти за разработчиците, прозрачност на всички етапи – от събирането на данните за обучение до коригирането на модела – както и независима експертна проверка. Само комбинацията от всички тези мерки може наистина да намали риска от затвърждаване на дискриминационните модели. Особено като се има предвид, че културните пристрастия на ИИ могат да застрашат националната идентичност на цели държави.