Съдбата на системите за разпознаване на лица е на кръстопът. Пред 2020 г. беше поставено началото на най-големия дебат за развитието на технологиите за разпознаване на лица и тяхната регулация. През изминалата година законодателите, защитниците на неприкосновеността на личния живот, съдебните юристи и местните законодатели се обединиха срещу технологията, като я обявиха за инструмент за следене, третиране на дискриминирани групи и други престъпления срещу личността и свободата. Няколко важни решения през следващата година ще очертаят нейното бъдеще.
Скандалите около системите за лицево разпознаване, на които станахме свидетели през изминалата година, заложиха на карта ролята на технологията, тъй като правителствата на много страни изглежда дават приоритет на сигурността пред гражданските свободи. Въпреки че милиони потребители използват технологията всеки ден чрез функцията FaceID на своите iPhone и отключването с лицево разпознаване на Android телефоните, опонентите се притесняват, че публичното използване на лицевото разпознаване от правоприлагащите органи и институции, е нахлуване в личния живот. Други предупреждават, че алгоритмите често допускат грешки, като се наблюдават и пристрастия, при разпознаването на лица на жени и представители на малцинствени етнически групи.
Годината започна с разследванията на The New York Times и BuzzFeed News за ClearView Al, противоречив стартъп за разпознаване на лица, който събира милиарди снимки на хора от социалните мрежи, без някога да е искал тяхното разрешение.
До март пандемията от коронавируса направи носенето на предпазни маски за лице от съществено значение, което наложи бърза промяна в стотици алгоритми за разпознаване на лица.
През лятото технологични компании като IBM и Microsoft обявиха, че няма да предоставят технологии за разпознаване на лица на правителствени и правоприлагащи органи. Въпреки че Microsoft никога не е предоставяла услуги за разпознаване на лица на полицейски управления, компанията се е опитвала във времето да продаде своите инструменти на федералните правоприлагащи органи като Агенцията за борба с наркотиците на САЩ. Amazon, която предоставя системи за разпознаване на лица на полицейските управления, реши да спре доставянето им за една календарна година.
„Технологичните гиганти харчат десетки милиони долари, за да избегнат реалните реформи – и още по-лошо – да прокарат законодателство, което да отмени местните забрани за разпознаване на лица в някои щати.“, каза Алберт Фокс Кан, изпълнителен директор за надзор на технологиите за наблюдение.
Amazon не е дала подробности за това как ще се случи до юни 2021 г., но местните федерални политики и съдебни дела ще решат къде е редно да се използват технологиите за лицево разпознаване. Ето защо същите тези компании агресивно лобираха в Конгреса по технологичните въпроси, за използването на системи за разпознаване на лица, с надеждата да помогнат при определянето на правилата, които ще се спазват.
И затова Amazon похарчи 24 000 щатски долара в Портланд, Орегон, в опити да отмени най-силната забрана за използване на технологии за лицево разпознаване в САЩ. Това обяснява и как Microsoft изигра важна роля в приемането на закона за разпознаване на лица в щата Вашингтон, като в неговото съставяне е взел участие и служител на компанията.
През 2019 г. Сан Франциско беше първият град, който забрани правителството да използва системи за разпознаване на лица. Оттогава наблюдавахме ефекта на доминото и голям брой градове в САЩ последваха примера, използвайки разпоредбите на Сан Франциско като модел за собственото си местно законодателство.
Само през 2020 г. бяха приети забрани за използване на технологии за лицево разпознаване в Портланд, Оргеон, Мейн, Бостън, Кеймбридж, Спрингфийлд, Масачузетс и други. През декември депутатите от Масачузетс гласуваха щата да бъде първия, който напълно забранява на полицията да използва технологии за лицево разпознаване.
Не всички опити за забраняване на технологиите за лицево разпознаване обаче бяха успешни. Въпреки протестите срещу технологията и известните случаи на полицейски арести заради расова пристрастност на алгоритмите, градският съвет на Детройт гласува за подновяване на договора за използване на технологии за лицево разпознаване.
„Днешният вот удвоява значението на дефектните, расистки технологии, които вече са съсипали живота на много хора“, заяви тогава (през септември) представителят на Мичиган Рашида Тлайб в изявление. „Затова трябва да удвоим собствения си ангажимент за забрана на използването на лицево разпознаване в Детройт и да работим за истинска безопасност във всички наши общности. Ангажирам се да продължа усилията за забрана на технологията за разпознаване на лица на федерално ниво – не можем да игнорираме фактите и не можем да пренебрегнем това, което искат жителите.“
Федерално признаване
Тлайб продкрепя федералната забрана за използване на лицево разпознаване в законопроект, подкрепен от депутати, включително и от сенаторите Барни Сандърс, Рон Уайдън и Елизабет Уорън.
Сенаторите Ед Марки и Джеф Мъркли внесоха законопроекта през юни, който за неопределено време ще забрани използването на лицево разпознаване от правоприлагащите органи в цялата страна. Единственият начин мораториумът да бъде спрян е, ако Конгресът приеме законопроект за отмяна на забраната.
„Няма съмнение, че в цялата страна американците виждат сериозните вреди, които технологиите за лицево разпознаване носят. Гражданите признават, че нарастването на наблюдението и използването на лицево разпознаване представлява сериозна заплаха за неприкосновеността на нашия личен живот и гражданските свободи, а също и непропорционално застрашава афро американците. Трябва да изкореним силите за расова несправедливост и инвазивно наблюдение в нашето общество, като това може да стане чрез промени в закона.“
С двустранната подкрепа за разпознаване на лица, администрацията на Байдън обеща реформиране на закона, който позволява използването на подобен род системи от полицията, като се очаква законопроектът да набере скорост към 2021 г., но има опасения, че лобистите от технологичните компании ще доведат до приемането на по-слаби ограничения.
„Въпреки че има нарастващ двупартиен консенсус срещу тези технологии, политическата воля вероятно все още не е достатъчно силна, за да преодолее лобирането на големите компании“, каза Алберт Фокс Кан, изпълнителен директор на проекта за надзор на технологиите на лицево разпознаване и проследяване на гражданите. „Технологичните гиганти харчат десетки милиони долари, за да избегнат реални промени и реформи.“
Някои от играчите в технологичната индустрия са забелязали за тази тенденция, като писмата от изпълнителния директор на IBM Арвинд Кришна и президента на Microsoft Брад Смит призовават новоизбрания президент Байдън да предприеме действия по разпоредбите за лицево разпознаване.
„IBM е готова да работи с вас по мерки за забрана за използването или търгуването със системите за лицево разпознаване и масово наблюдение, расово профилиране или други нарушения на основните човешки права и свободи“, пише Кришна в писмото си от 9 ноември.
Когато са били потърсени за допълнителен коментар, от IBM са посочили писмото си от юни, в което призовават за прекратяване на използването на лицево разпознаване и масово наблюдение. Компанията е отказала да коментира предложеното от Markey законодателство.
Защитниците на поверителността са скептични към технологичните компании, които искат да напишат правилата за лицево разпознаване, изразявайки опасения, че всякакви разпоредби, в които тези компании имат влияние, вероятно ще означават по-слаба защита от технологията.
Исторически контекст
Историята на корпоративното влияние върху местните и федералните закони на САЩ по много случаи и въпроси в миналото е доказателство, че опасенията са оправдани, казват активисти. След като щата Вашингтон прие своя закон за разпознаване на лица, изготвен от сенатора Джо Нгуен, който е и програмен мениджър в Microsoft, законодателите внесоха законопроекти с подобна насоченост в щати като Калифорния, Мериленд, Южна Дакота и Айдахо, според The Wall Street Journal.
В доклада се отбелязва, че Microsoft насърчава приемането на законодателството в тези щати, докато защитниците на поверителността твърдят, че предложените закони всъщност не защитават хората от системите за лицево разпознаване. Вместо това те се стремят да регулират и създават доклади за отчетността при използването на технологии за разпознаване на лица, а не да искат пълна забрана за използването на технологията.
„Вярваме, че правителството трябва да регулира дали и как разпознаването да лица да се използва, за да гарантира, че хората са защитени съгласно закона“, се казва в изявление на Microsoft. „От решаващо значение е всички нови закони да се основават на защитата на правата на човека като неприкосновеност на личния живот, свободата на изразяване и свободата на сдружаване – и да съдържат силни предпазни мерки като тестване и оценка от трети страни, известия и съгласие, смислен човешки преглед и ограничения срещу масовото наблюдение.“, допълват още от компанията.
През 2019 г. главният изпълнителен директор на Amazon Джеф Безос заяви, че компанията му работи върху собствени правила за разпознаване на лица, за да ги представи на Конгреса. Когато бе запитана за коментар, Amazon посочи публикация в блога си от февруари 2019 г. относно законодателството си за лицево разпознаване и отказа да предложи каквато и да е друга информация.
Нараства тревогата, че ако технологичните компании могат да се повлияят от федералния законопроект за разпознаване на лица през 2021 г., това ще доведе до слаб национален стандарт, който потенциално ще може да отменя по-строги забрани, приети в няколко града. Това би било подобно на искането на технологичните гиганти са федерални разпоредби за поверителност на данните, с призиви за национален законопроект за отмяна на вече установените държавни закони.
„Те призовават за регулиране на разпознаването на лица, защото знаят, че техните адвокати и лобисти ще имат огромно влияние върху това какво ще представлява въпросното законодателство“, казва Евън Гриър, заместник – директор на групата за цифрови права „Борба за бъдещето. „Всеки законодател, който се отнася сериозно към защитата на собствеността, трябва да подкрепи категоричната забрана за прилагане на технологии за лицево разпознаване от органите на реда.“
Правни предизвикателства
Няколко дела, заведени през 2020 г., които биха могли да бъдат разрешени през следващата година, също могат да окажат влияние върху бъдещето на системите за лицево разпознаване.
Clearview Al е изправена пред множество дела за събирането на лични данни. Компанията събра милиарди публични изображения от социалните мрежи, включително и от YouTube, Facebook и Twitter. Всички тези компании са изпратили писмо за прекратяване на тази практика от Clearview Al, но компанията твърди, че има право да продължи да събира и обработва снимките на нищо неподозиращите хора, по силата на Първата поправка.
Този аргумент се оспорва от главния прокурор на Върмонт, Американския съюз за граждански права и свободи и вече са заведени две съдебни дела в Илинойс срещу компанията. Clearview Al не е отговорила на искането за допълнителен коментар.
Разрешаването на спора с Clearview може да изиграе важна роля в бъдещето на лицевото разпознаване. Индустрията разчита на огромни масиви от изображения на хора, на база на които да обучава алгоритмите си. Въпросните изображения обаче изглежда може да бъдат получени по много начини, като някои от тях са далеч от законни. Доклад на NBC News от 2019 г., който нарече практиката „мръсна малка тайна“, като в него се казва, че милиони снимки онлайн се събират без разрешение на хората, на които принадлежат. Последните обаче едва ли подозират, че снимките и видеата, които качват в социалните мрежи, се използват за обучаването на изкуствен интелект.
„Вероятно ще наблюдаваме нарастващо количество съдебни спорове срещу училища, предприятия и други обществени места в рамките на нова вълна от биометрични закони за поверителност, включително и предстоящата забрана на Ню Йорк за практикуване на търговско биометрично наблюдение“, казва още Кан.
Друг иск в Ню Йорк е насочен срещу допускането на разпространението на технологии за лицево разпознаване в рамките на училищата. Преподавателите на някои държавни училища са платили милиони долари за технологии за разпознаване на лица, за да се предпазят от стрелби в училищата, въпреки че самите доставчици на технологиите признават, че вероятно това няма да помогне.
През юни Нюйоркският съюз за граждански свободи съди Министерството на образованието на САЩ с аргумента, че системата за разпознаване на лица в училищен район за над 3 милиона долара нарушава защитата на поверителността съгласно Закона за образованието в Ню Йорк. Документите от съдебния процес, получени от Motherboard, установиха, че софтуерът за разпознаване на лица на училището погрешно идентифицира чернокожите учениците и е допуснал грешки, като например смята, че дръжките на метли са пистолети.
NYCLU също подкрепи приемането на законопроект в Ню Йорк, който временно ще забрани разпознаването на лица в училищата, който губернаторът Андрю Куомо все още трябва да подпише.
„Независимо дали в Олбани или в съда, ние се надяваме да видим успешно разрешаване на този въпрос през 2021 г. и да сложим край на тази пристрастна и вредна форма на наблюдение в училище, която застрашава младите ученици и цветнокожите“, каза заместник-директорът на NYCLU Център за образователна политика, Стефани Койл.
Бъдещето на лицевото разпознаване в полицейските управления, училищата, кооперациите и магазините може да бъде решено през следващата година. За защитниците на неприкосновеността на личния живот 2021 г. представлява възможност за потушаване на пожар. А за индустрията за разпознаване на лица това е възможност да се регулира как и кога продуктите им могат да бъдат използвани.
