Специални очила объркват компютърните системи за разпознаване на човешките лица

Благодарение на невронните мрежи системите с машинно зрение достигнаха рекордна точност в разпознаването на човешките лица. Личността на човека без грешка се разпознава дори на замазани фотографии и места, където лицето се вижда частично. Най-новите алгоритми се съобразяват с контекста – дрехите, околната среда, походката. Всемирната истерия по тероризма навярно ще доведе до включването на подобни системи към обикновените охранителни камери.

Специалистите от университета Карнеги Мелън започнаха да търсят начини за объркване на системите с автоматизирано разпознаване. За да се излъже компютърната система е необходимо по някакъв начин да се промени външността, но без да се предизвиква подозрение. Да се постават голяма шапка и големи тъмни очила не е трудно, но такъв човек със сигурност ще бъде задържан от охраната или полицията. Учените търсят по-интелигентен метод, който да излъже компютрите, но да не предизвиква подозрения в околните.

Изследователите измислиха нов вид промени във външността, които оказват най-голямо влияние върху алгоритмите за разпознаване.

Оказа се, че този ефект може да се постигне с използването на очила със специално подбран шаблон, който въздейства на алгоритмите на невронната мрежа. Тестването на различните системи за разпознаване на лицата показа, че тяхното най-уязвимо място е сравнението на отделните пиксели в конкретни, точно определени места около очите на хората.

Предложени са два варианта. При единия, компютърните системи започват да разпознават лицето като лице на точно определен друг човек (в горния пример Рийз Уидърспун започва да се разпознава като Ръсел Кроу). При втория вариант, лицето на човека започва да се разпознава като лицето на който и да е друг нов за системата човек.

Методът успешно действа не само на невронни мрежи с открит код, но и на системи от типа black box.