Технологичните гиганти бяха уличени в позитивни ИИ прегледи на нацистката литература

Алгоритмите на Google и Amazon възхваляват забраненото четиво, като пренебрегват историческия контекст.

Алгоритмите на изкуствения интелект отново се оказаха в неудобна ситуация: установено е, че Google и Amazon неправилно са обработили рецензиите за книгата на Адолф Хитлер „Mein Kampf“, наричайки я „истинско произведение на изкуството“. Този случай е поредният пример за това, как автоматизираните системи интерпретират данните без правилното разбиране на контекста.

Потребителите забелязаха, че в търсачката на Google, в раздел „Избрани фрагменти“, се дава информация от системата за изкуствен интелект на Amazon, която обобщава потребителските отзиви за книгата. В този фрагмент се твърди, че читателите намират книгата за „лесна за четене и интересна“, както и за „интелектуално богата“.

При това е използвана фразата, че „читателите се отнасят към нея като към истинско произведение на изкуството“. При по-внимателно разглеждане обаче може да се види, че повечето рецензенти не оценяват съдържанието на книгата, а по-скоро нейния дизайн, четивност и качество на печата.

След като ситуацията беше публично оповестена, Google незабавно премахна рецензията на ИИ от резултатите и добави стандартното предупреждение, че книгата е „широко осъждана заради своята омразна и расистка идеология“. Този случай обаче върна вниманието към проблемите с ИИ алгоритмите, които започват да се „самоизяждат“ – ИИ се учи от данни, вече генерирани от други ИИ, създавайки безкраен цикъл от невярна информация.

Случаят с „Mein Kampf“ не е първият провал на рецензиите от страна на ИИ и автоматизираните алгоритми за търсене. Google и преди е попадал в скандали, когато препоръките на ИИ на компанията съветваха хората да ядат лепило, да консумират по един малък камък на ден или да използват секс играчки за отглеждане на деца. Подобни провали показват, че системата, която автоматично обобщава съдържанието, далеч не е съвършена и може да даде опасни или неправилни препоръки.

Amazon също не предостави коментар за работата на своята система за изкуствен интелект, която създава автоматични ревюта на книги въз основа на мненията на потребителите. Проблемът обаче остава ясен: изкуственият интелект не е в състояние да интерпретира правилно нюансите и контекста, особено когато става въпрос за такива противоречиви произведения. Това води до ситуации, в които алгоритмите за машинно обучение не просто дезинформират потребителите, но могат несъзнателно да насърчават разрушителни идеи.

Този случай също така подчертава един по-голям проблем: системите за изкуствен интелект, предназначени за автоматичен анализ и обобщаване на информацията, все по-често се обучават върху данни, които вече са генерирани също от изкуствен интелект. Изследванията показват, че това води до „самоунищожение“ на моделите, влошаване на тяхната точност и още по-голямо разпространение на невярна информация в уеб пространството.

Книгата Mein Kampf никога не е била забранявана в САЩ, за разлика от много други книги на расистка тема, полова принадлежност и сексуалност, но Amazon временно я премахва от продажба през 2020 г., преди да я върне обратно. Въпросът обаче по какъв начин технологичните гиганти управляват алгоритмите на изкуствения интелект и контролират точността на предоставяните данни остава отворен.

Този инцидент ясно показва, че е твърде рано да се разчита единствено на алгоритмите да анализират и произвеждат информация без човешки надзор – в противен случай интернет рискува да се превърне в пространство, в което машинните грешки неконтролируемо се множат.