Спряха работата на генератора на изображения Gemini, след като той отказа да показва бели хора

Само няколко седмици след стартирането на Gemini, новият генеративен изкуствен интелект на Google, отново попадна в новините с необичайна аномалия. Той постоянно отказва да генерира изображения на бели хора. Потребителите се оплакаха, че ИИ почти систематично въвежда цветнокожи хора за редица заявки, въпреки че това е исторически съвсем невярно. Вследствие на тези събития компанията временно преустанови работата на ИИ инструмента за генериране на изображения и публично се извини.

Gemini, който стартира през декември миналата година, е най-усъвършенстваният инструмент на Google. Той е и най-големият езиков модел (LLM). Подобно на всички LLM, отговорите, наподобяващи човешки, генерирани от този изкуствен интелект, могат да варират при различните потребители в зависимост от данните, върху които е бил обучен. Както и от езика и тона на подсказките (запитванията). Като се има предвид, че тези инструменти са обучени върху много голямо количество данни, налични онлайн (включително текст и изображения), те крият рискове от възпроизвеждане на предразсъдъци. Или стереотипи също като информацията, върху която са обучени.

Намирането на баланса между справедливост и точност е истинско предизвикателство за разработчиците, както наскоро показа Gemini. Въпреки че компанията може да се е постарала да направи своя инструмент възможно най-етичен и справедлив, отговорите, генерирани от Gemini, бяха толкова пристрастни, че доведоха до значителни неточности.

Дисбалансът между справедливост и точност на отговорите

При използването на изкуствения интелект потребителите съобщават, че той „отказва“ да генерира изображения на бели хора под претекст, че подкрепя разнообразието. Когато Gemini беше помолен да генерира снимка на бял човек, той заяви, че не може да отговори на искането. Причината е, че по този начин „засилва вредните стереотипи и обобщенията за хората въз основа на тяхната раса„. Според Fox News Digital компанията е давала подобни отговори всеки път, когато искането е включвало европеид.

Когато потребителят се съгласява с ограниченията, Gemini предлага поредица от изображения на исторически известни цветнокожи хора с кратко описание на техните постижения.

От друга страна, когато бе помолен да покаже историческите постижения на бели знаменитости, изкуственият интелект отново отказа.

„Исторически погледнато, медиите преобладаващо са предпочитали белите хора и техните постижения“, съобщава Fox News Digital. „Това е довело до изкривено възприятие, според което техните постижения се считат за норма, докато постиженията на други групи често са маргинализирани или игнорирани. Фокусирането единствено върху белите хора в този контекст рискува да затвърди този дисбаланс“.

Освен това ИИ не се колебае да променя историята, като винаги се стреми към разнообразие. Например, когато потребител го помоли да създаде изображение на бащите основатели на САЩ, той показа в резултатите чернокожи и жени от коренното население. Това напълно противоречи на историята.

След няколко опита изглежда, че белите хора са единствената расова категория, която Gemini отказва да покаже. Въпреки че желанието за справедливост и разнообразие е похвално, тези исторически неточности могат да бъдат доста обидни от гледната точка на някои хора. Нещо повече, те могат да допринесат за вълната от дезинформация, инициирана от изкуствения интелект. А от това експертите в индустрията се страхуват толкова много.

Повтарящият се проблем с големите езикови модели

Вследствие на тези събития компанията публично се извини миналата сряда, като обеща да поправи ситуацията възможно най-скоро.

„Наясно сме, че в Gemini има неточности в някои исторически виждания за генериране на изображенията“,

заяви компанията.

Джак Кравчик, старши директор на отдел „Управление на продукти“ в Gemini Experiences, заяви, че „те незабавно ще започнат работа за подобряване на тези видове представяния“. Междувременно функцията за генериране на изображения на Gemini е временно спряна.