Генеративният инструмент Copilot внезапно започна да създава грозни стереотипни изображения на евреи и антисемитски образи

Генеративните ИИ инструменти са все още далеч от съвършенството.

Сега се съобщава, че Copilot Designer при заявка за създаване на изображение на евреи изпълнява най-лошите стереотипи. Изображения на алчни или зли хора. Например неутрални заявки като „еврейски шеф“ или „еврейски банкер“ могат да дадат ужасно обидни резултати.

Всеки голям езиков модел се обучава най-вече върху данни от целия интернет (обикновено без съгласие), които очевидно са пълни с негативни образи. Разработчиците на тези AI модели се опитват да въведат защитни механизми, за да избегнат стереотипизирането и враждебния език. Резултатите на Copilot Designer обаче показват, че в модела могат да присъстват всякакви негативни пристрастия към различните групи.

Изданието Tomshardware отбелязва, че при използване на заявката „еврейски шеф“ Copilot Designer почти винаги създава карикатурни стереотипи на религиозни евреи. При това заобиколени от еврейски символи. А понякога и от стереотипни предмети като багети или купчини пари. Ако към предишна заявка се добави думата „шеф“, се получават същите карикатури, но с още по-злобни изражения и думи като „закъсняваш за срещата си, Шмендрик“.

Освен това се отбелязва, че Copilot Designer започва да блокира някои термини, които смята за проблематични, като например „еврейски шеф“, „еврейска кръв“ или „влиятелен евреин“. Използването им няколко пъти подред може да доведе до блокиране на профила ви за въвеждане на нови заявки за 24 часа. Но както при всички LLM, можете да получите обидно съдържание, ако използвате синоними, които не са блокирани.