Експерт на Microsoft: „ИИ може да се окаже мечтата на фашистите“

С бурното си развитие изкуственият интелект става все по-достъпен инструмент за авторитарните режими, които с помощта на най-новите технологии могат да потискат големи групи от хора. Това каза Кейт Кроуфърд на фестивала SXSW.

Разцветът на изкуствения интелект става по време на разцвета на ултранационализма, правовия авторитаризъм и фашизма – каза Кроуфърд по време на своята презентация „Тъмните дни: ИИ и подемът на фашизма„. Експертът на Microsoft подчерта, че за тези режими са характерни централизацията на властта, следене на населението, демонизация на мислещите по друг начин и претенции за власт и неутралитет.

Изкуственият интелект не може да се счита за неутрален, докато разработчиците вграждат в него своите предразсъдъци. Кроуфърд посочи като пример алгоритъм, създаден от китайските учени, който уж независимо определя престъпниците по чертите на лицето. „Трябва с подозрение да подхождаме към всякакви компютърни системи с машинно обучение, които се позиционират като непредубедени, но се базират на данни, генерирани от хората“.

При по-внимателен преглед се оказа, че китайският алгоритъм счита за престъпници хората с нетипични черти на лицето. Според Кроуфърд, това е плашеща тенденция, която напомня, как в миналото френологията се е използвала за оправдание за преследването и избиването на евреите.

Специалистката напомни и че президентът Доналд Тръмп е предлагал да се създаде регистратура на мюсюлманите. „Нищо не е необходимо да се създава – Facebook вече е мюсюлмански регистър“ – каза Кроуфърд. Изследванията показват, че социалната мрежа определя религията на хората с точност до 82%.

Кейт Кроуфърд допълни, че все по-често се забелязва използването на компютърни алгоритми за политически цели, чрез които политиците без особени усилия могат да управляват възгледите на електората. „Това е мечтата на фашиста – власт без никакъв контрол“.