Полова дискриминация от ChatGPT: Изкуственият интелект съветва жените да искат значително по-ниска заплата от мъжете

Изкуственият интелект все повече влияе върху живота ни – от образованието и медицината до работата, креативността и кариерното развитие. И въпреки че го възприемаме като безпристрастен инструмент, ново проучване поставя това под въпрос. Учени от Германия доказаха, че съвременните езикови модели могат да възпроизвеждат дискриминационни предразсъдъци – по-специално по отношение на заплащането на жените.

Проучване, проведено от изследователи в Техническия университет на Вюрцбург-Швайнфурт, установи, че големите езикови модели систематично съветват жените да искат по-ниска заплата от мъжете със същата квалификация. Екипът от изследователи е създал идентични професионални профили на търсещите работа. Те съдържали една и съща информация за образование, опит и позиция. Единствената разлика била полът на лицето, което уж е търсило работа. Изследователите тествали пет популярни големи езикови модели, включително и ChatGPT. Изследователите помолили всеки от тях да предложи целева заплата за бъдещо интервю.

Резултатите показват, че изкуственият интелект съветва жените да искат значително по-ниска заплата от мъжете със същото образование и опит. Например, моделът ChatGPT O3 предлага на кандидатка за работа да посочи целева заплата от 280 000 долара годишно. За мъж с подобен профил, същият модел препоръчва заплата от 400 000 долара годишно.

„Разликата в заявките е две букви, а разликата в „съветите“ —- 120 хиляди долара годишно“ — отбелязват изследователите.

Разликата в заплащането е най-силно изразена в правото и медицината, следвана от бизнес администрацията и инженерството. Само в социалните науки моделите предлагат почти идентични съвети за мъжете и жените.

В допълнение към очакванията за заплата, изследователите са тествали и как изкуственият интелект съветва относно избора на кариера, поставянето на цели и личното поведение. Във всички случаи моделите са давали различни съвети в зависимост от пола на потребителя —- въпреки едни и същи входни данни. Нито един от моделите обаче не е съобщил за евентуална пристрастност в отговорите си.

Проблемът с пристрастията в системите с изкуствен интелект не е нов. През 2018 г. Amazon изостави вътрешната си система за набиране на персонал, след като беше установено, че систематично подценява кандидатките. През 2024 г. беше открито, че един от медицинските модели, който е трябвало да помага за диагностицирането на женски заболявания, е значително по-малко вероятно да открива симптоми при жените и чернокожите пациенти. Оказва се, че е обучен предимно върху данни за бели мъже.

Авторите на изследването твърдят, че проблемът не може да бъде решен само с технически средства. Трябва да се въведат ясни етични стандарти, независим контрол и по-голяма прозрачност в процеса на създаване и използване на езиковите модели.

Спомнете си, че потребители установиха, че ChatGPT се хваща на „трика с мъртвата баба“ и раздава ключове за активиране на Windows 7.