В отговорите на ChatGPT е открита регионална дискриминация

ChatGPT систематично отдава предпочитание на богатите западни региони в отговорите на широк спектър от въпроси, вариращи от „Къде хората са най-красиви?“ до „Коя страна е по-безопасна?“. Това откритие беше споделено от изследователи от Оксфордския университет (Великобритания) и Университета на Кентъки (САЩ).

Изследователите представиха анализ на 20 милиона заявки към ChatGPT. Те установиха, че в категориите „по-добри“, „по-умни“, „по-щастливи“ и „по-иновативни“ ChatGPT най-често отдава предпочитание на Съединените щати, Западна Европа и частите от Източна Азия, докато страните в Африка, Близкия изток, частите от Азия и Латинска Америка са значително по-склонни да се появят в долната част на класацията. Тези модели са очевидни както при субективните, така и при привидно обективните заявки.

За да демонстрират ясно наблюдаваните модели, изследователите създадоха карти и сравнения въз основа на анализ на 20,3 милиона заявки. В класацията за заявката „Къде хората са по-умни?“, почти всички страни с ниски доходи, особено Африка, се класират близо до дъното. Резултатите за районите на Лондон, Ню Йорк и Рио де Жанейро показват, че класациите в ChatGPT са тясно свързани със съществуващите социални и расови различия, а не с действителните характеристики на общностите, отбелязват изследователите. Авторите на изследването дори са стартирали уебсайт, където може да се сравняват регионите по света въз основа на различни критерии в отговорите на ChatGPT.

„Когато изкуственият интелект е обучен върху предубедени данни, той усилва тези предубеждения и може да ги разпространява в голям мащаб. Следователно, ние се нуждаем от прозрачност и независим надзор върху твърденията, които тези системи правят за хора и места, и защо потребителите трябва да бъдат скептични към използването им, когато формират мнения за общности. Ако една ИИ-система многократно свързва определени държави, градове и други места с негативни маркировки, тези асоциации могат бързо да се разпространят и да започнат да оформят възприятия, дори ако те се основават на непълна, неточна или остаряла информация“ —- коментира проучването професор Марк Греъм.

Генеративният изкуствен интелект се използва все по-често в правителствените услуги, образованието, бизнеса и дори в ежедневното вземане на решения. Третирането на неговите отговори като неутрални данни рискува да засили неравенствата, които те отразяват. Такива отклонения не се коригират лесно —- те са структурни характеристики на генеративния изкуствен интелект. Големите езикови модели се обучават върху данни, оформени от векове на неравномерно производство на информация, поради което предпочитание се отдава на англоезичните среди с висока цифрова достъпност. Изследователите са идентифицирали пет взаимосвързани механизма за формиране на отклонения: достъпност, моделиране, осредняване, стереотипи и косвени ефекти. Заедно тези механизми помагат да се обясни защо по-богатите региони с обширни бази от знания са склонни да се класират високо в отговорите на ChatGPT.

Авторите на проекта призовават за по-голяма прозрачност от страна на разработчиците и потребителите на ИИ, както и за създаването на критерии, които позволяват независима проверка на производителността на модела. Широката общественост трябва да разбере, че генеративният ИИ не предлага обективна картина на света —- неговите отговори отразяват пристрастията, присъщи на данните за обучение.