fbpx
4.2 C
София

Facebook ще изключи системата си за лицево разпознаване

Най-четени

Facebook ще прекрати работата си на системата си за разпознаване на лица този месец и ще изтрие данните за сканираните лица на повече от 1 милиард потребители, съобщи компанията във вторник. Като причини за това се посочват обществените опасения и регулаторната несигурност относно технологиите за разпознаване на лица, както и засиленото им критично обсъждане в обществото.

Повече от една трета от ежедневните активни потребители на социалната мрежа по някакъв начин са били част и са се включили в нейната система за разпознаване на лица, както става ясно от официалните данни на компанията, публикувани в официалния ѝ блог.

„Има много опасения относно мястото на технологията за разпознаване на лица в обществото и регулаторите все още са в процес на предоставяне на ясен набор от правила, които да регулират нейното използване“, пише Джером Песенти, вицепрезидент по въпросите за изкуствен интелект в наскоро сформираната компания майка на Facebook, Meta.

„На фона на тази продължаваща несигурност, ние вярваме, че ограничаването на използването на системите и технологиите за разпознаване на лица до тесен набор от случаи на употреба, би било най-подходящото решение, което можем да вземем на този етап.“

Песенти казва, че промяната също означава, че автоматично генерираните опасения на снимките, които слепите хора чуват, вече няма да включват имената на потребителите, които присъстват на дадена снимка.

Този ход е сериозна повратна точка в историята на технологията за лицево разпознаване, която Facebook от години разработва и включва в продуктите си, като дава възможност на потребителите да получават автоматични известия, когато бъдат засечени в качена от някого снимка или видеоклип. Но технологията наскоро стана особено силно присъстваща и обсъждана в различни обществени дискурси, като се превърна в една от заплахите на дневен ред, които влошават проблема за поверителността и гражданските права. Технологията за лицево разпознаване често е склонна към грешки, особено когато разпознава лицата на цветнокожи хора.

През последните няколко години, системите за лицево разпознаване отдавна напуснаха ограниченото си приложение до социалните мрежи, като започнаха да достигат до обхвата на различни обществени структури, както и да се спрягат като универсална панацея, която би улеснила вземането на ключови решения, и върху която биха могли да бъдат стоварени немалко отговорности, когато се отнася до правенето на заключения и преценки, при които експертите смятат, че AI би бил по-добър от човешкия ум. Така например, технологии за лицево разпознаване експериментално бяха приложени дори в сферата на съдебното правораздаване, но за щастие употребата и разпространението им бързо бяха ограничени, след като се установи, че повечето от тях са обучени с грешни модели, които водят до расистки резултати.

Оказа се, че системи за лицево разпознаване са склонни към особено много грешки, когато става въпрос за цветнокожи хора.

В едно проучване с 28 членове от Конгреса на САЩ, от които 40% са били цветнокожи, са наблюдавани сериозни тенденции цветнокожите членове да бъдат погрешно идентифицирани с арестувани хора, чиито снимки са използвани за провеждането на експеримента и са подбрани на случаен принцип. Други проучвания пък показват, че този тип системи проявяват особено силна тенденция към грешно лицево разпознаване на цветнокожите жени. Тези и други резултати от подобни проучвания имаха силно попарващ ефект спрямо ентусиазма за това системите за лицево разпознаване да бъдат въведени на практика във всяка една сфера от нашия живот, като повечето експерти по света се съгласиха, че имат нужда от още доста разработки, тествания и подобрения, за да постигнат задоволително ниво на точност на разпознаванията.

При липсата на федерални разпоредби за системите за лицево разпознаване в САЩ, градовете и щатите започнаха да забраняват системите за разпознаване на лица, използвани от полицията и правителството. През 2019 г. Сан Франциско беше първият град, който забрани използването на технологията от правителството. Други, включително Джаксън, Мисисипи; Портланд, Орегон; и Бостън, Кеймбридж и Спрингфийлд, Масачузетс, го следват. През лятото Мейн въведе една от най-строгите забрани за технологията.

По-рано тази година американски съдия одобри споразумение за 650 милиона долара в колективен иск, заведен срещу практиката на Facebook да използва подобни технологии за потребителските снимки и да използва снимките на нищо неподозиращи потребители за обучение на системите си. Функцията също така генерира предложени тагове, като използва сканиране на по-рано качени снимки, за да съпостави хората в новокачени снимки. В съдебния процес се твърди, че сканиранията са направени без съгласието на потребителя и нарушават Закона за поверителност на биометричната информация на Илинойс, който регулира разпознаването на лица, пръстовите отпечатъци и други биометрични технологии.

Facebook също обмисли въвеждането на лицево разпознаване в продукти като своите умни очила. Разпознаването на лица, например, може да се използва за идентифициране на имената на хора, които не можете да си спомните. Но служителите на компанията изразиха опасения, че технологията може да бъде използвана за злоупотреби. Първият чифт умни очила на Facebook, Ray-Ban Stories, не включва технология за разпознаване на лица.

Групите за поверителност и граждански права аплодираха хода на Facebook във вторник.

„Това е добро начало за прекратяване на опасните употреби на технологията за разпознаване на лица. Сега е време за приложими правила, които забраняват на компаниите да сканират лицата ни без нашето съгласие.“, заяви Американският съюз за граждански свободи в туит.

Electronic Frontier Foundation заяви, че този ход е „страхотна новина за потребителите на Facebook и за глобалното движение, което отблъсква тази технология“.


Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iOS и Huawei!

Абонирай се
Извести ме за
guest

0 Коментара
Отзиви
Всички коментари

Нови ревюта

Ревю на новата Need for Speed: Unbound: спираща дъха надпревара в отворен свят

Великанът на състезателните игри се завръща с поредното си превъплъщение. Обещавайки напълно преработен модел на управление и с разработчика на Burnout Criterion зад волана,...

Подобни новини