Microsoft ще премахне алгоритмите за разпознаване на емоции от Azure

Microsoft актуализира своята политика, наречена Responsible AI Standart, като разкри, че ще деактивира възможностите на Azure Face за разпознаване на емоции чрез лицево разпознаване.

Стандартът за отговорен изкуствен интелект, за който става дума, е вътрешен набор от правила на компанията, които тя прилага при изграждането на ИИ системи. Компанията иска ИИ да бъде положителен инструмент за света и никога да не се злоупотребява с него, от когото и да било, което макар и да звучи утопично, е добра пътеводна светлина, по която компанията работи, за да постигне по-отговорно и етично използване на изкуствения интелект в нашия живот. Това е стандарт, който досега не е ставал известен за широката общественост. Въпреки това, с тази нова промяна, изглежда от Microsoft са решили, че моментът е подходящ, за да го оповестят.

Софтуерните продукти за разпознаване на емоциите и за лицево разпознаване изобщо са меко казано противоречиви. Съществуват множество организации, които призовават тази технология да бъде забранена. „Борба за бъдещето“ (Fight for the Future) е една от тях. От организацията през май тази година написаха отворено писмо, в което помолиха компанията Zoom да прекрати собствените си разработки за софтуер за емоционално разпознаване и нарекоха това „прекалено инвазивно нарушение на потребителската поверителност“.

Промяна на политиките

Както е изложено, Microsoft ще преработи своята услуга Azure Face, за да може тя да отговори на изискванията на обновените стандарти за етичен изкуствен интелект. На първо място компанията ще премахне публичния достъп до възможностите за разпознаване на емоции с изкуствен интелект. Освен това, Azure Face вече няма да поддържа възможности за идентифициране на характеристиките на лицето, в това число пол, възраст, усмивка, окосмяване на лицето, коса и грим.

Част от причината за това решение също е и фактът, че световната научна общност все още няма консенсус за дефиницията на „емоции“. Наташа Крампшън, главен AI директор в Microsoft казва, че експерти от компанията и извън компанията са изразили своите опасения. Достъпът до тези инструменти на Azure няма да бъде изключен абсолютно за всички – възможността да бъдат използвани ще остане само за няколко избрани клиенти и партньори, които работят директно с Microsoft. От компанията казват, че макар и услугата да има голям потенциал, на този етап повдига прекалено много етични въпроси, на които не може да се даде удовлетворителен отговор.

Разработките не спират

Въпреки всичко това, от Microsoft не изоставят напълно работата си по технологиите за лицево разпознаване. Компанията цели да ограничи свободния публичен достъп до тези инструменти, които разработва, но не и да замрази работата си по тях.