Невронните мрежи не разпознават добре тъмнокожите мъже и жени

Системите за разпознаване на лицата вече са нещо обикновено. Те се използват в лицевите скенери като Face ID и за издирване на опасни престъпници.

Science Daily съобщи, че група специалисти от Масачузетския технологичен институт (MIT) и от Станфорд внимателно са изследвали няколко комерсиални алгоритми за разпознаване на лица с използване на изкуствен интелект, които се държат като сексисти и расисти.

При изследването се изясни, че при анализа на снимки на бели хора, алгоритмите са допуснали грешка само в 0,8% от случаите, а при тъмнокожите жени грешката достига средно 30%. За откриването на тази закономерност са използвани 1200 снимки на различни хора. След това показателите са сравнени със скалата на Фицпатрик, според която се различават 6 типа кожа – с I е отбелязана най-светлата, а с VI – най-тъмната.

Оказа се, че при жените с кожа IV, V и VI по скалата на Фицпатрик, процентът на грешките е съответно 20,8%, 34,5% и 34,7%. Системата греши и при определяне на пола при чернокожите хора.

Изследването повдига важния въпрос, дали наистина алгоритмите за разпознаване на лица работят както трябва. В Китай например, разпознатото от системата лице може да се използва за привличане към наказателна отговорност.