Google пренаписва историята: белите хора вече не съществуват?

Наистина ли разнообразието е причината за расовата дискриминация при Gemini?

Google се извини на потребителите за допуснатите неточности в изображенията, генерирани от нейния инструмент Gemini AI, свързани с исторически герои и събития. Компанията признава, че опитите за създаване на „широк спектър“ от резултати не са оправдали очакванията.

Съобщението на компанията идва след като редица критици изтъкнаха, че някои исторически личности, като основателите на САЩ, или групи, като германските войници от нацистката епоха, са изобразени като хора от други раси – като чернокожи, което може да е опит да се компенсират дългогодишните проблеми с расовите пристрастия в ИИ.

Няколко седмици след стартирането на функцията за генериране на изображения на Gemini в социалните медии възникнаха въпроси относно способността на технологията да възпроизвежда исторически точни резултати в опит да постигне расово и полово разнообразие.

Критиките дойдоха предимно от „десните“ кръгове, които обвиниха технологичната компания, че има либерални възгледи. Така например бивш служител на Google преди време написа, че „е трудно да накараш Google Gemini да признае съществуването на бели хора“, показвайки серия от запитвания и резултати, които в преобладаващата си част показват чернокожи.

Google не споменава конкретните изображения, за които се смята, че са сгрешени, но потвърждава намеренията си да подобри точността на изображенията. Съществуват обаче предположения, че Gemini се е опитал да увеличи разнообразието поради хроничния недостатък на генеративния изкуствен интелект – генераторите на изображения се обучават върху големи масиви от изображения и текстови описания, за да създадат „най-доброто“ съответствие за дадена заявка, което често води до засилване на стереотипите.

Потребителите в социалните медии обаче споделиха работата на Gemini, като публикуваха примери за генериране на изображения за различни заявки. В някои случаи заявките, свързани с исторически събития, са довели до съвсем неправилно представяне на историята. Например:

• Приложението Gemini се проваля в задачата си да изобрази правилно германски войник. Получило се е нещо ужасно

• Когато системата е помолена да създаде изображения на основателите на САЩ, тя изобразява „цветни“ хора, които съвсем отдалечено наподобяват историческите личности.

• при опит за създаване на портрет на американски сенатор от 1800 г. резултатите бяха отчетени като „многообразни“, включително изображенията на афроамериканки и индианки, въпреки че първата жена сенатор (бяла) встъпва в длъжност едва през 1922 г.

Според Google тези резултати водят до изкривяване на истинската история на расовата и половата дискриминация.

Ситуацията подчертава дълбоко вкоренените предизвикателства при балансирането на историческата точност и отразяването на разнообразието, пред които са изправени разработчиците на изкуствен интелект. Инцидентът засяга и по-широкия въпрос за ролята на технологиите във формирането на нашето възприятие на историята и културата, като повдига важен дебат за това как изкуственият интелект може и трябва да отразява сложността и разнообразието на човешкия опит.