Защо разпознаването на емоции от ИИ трябва да бъде забранено със закон?

Човешкото лице е способно със своите 40 мускула да създаде над 5000 различни изражения, всяко едно от които представлява своеобразен нюанс на дадена емоция или спектър от комбинация от чувства, които да експресират вътрешното ни състояние. Технологиите за разпознаването на човешките емоции на базата на изкуствения интелект, стават все по-популярни с почти всички среди и към днешен ден се използват в много сектори от нашия живот. Именно поради това водещ изследователски център призова за нови закони, които да ограничават използването на технологии на базата на изкуствен интелект за разпознаването на човешки емоции.

Институтът Al Now казва, че полето е „с размити граници и разклатени основи“.

Въпреки че към момента се продават и предлагат абонаментно много системи за подпомагане на издирването на престъпници и заподозрени, за сканирането за потенциално представяне на невярна информация, както и в застрахователните компании, тези технологии могат да бъдат опасни и крайно неетични.

От институтът искат такъв софтуер да бъде забранен за използване при вземането на важни решения, които засягат живота на хората и / или определят достъпа им до различни възможности.

Базираният в САЩ органи намери подкрепа в Обединеното кралство от основателя на компанията, разработваща свои собствени технологии за разпознаване на емоциите – но предупреди, че е необходимо да се вземат всякакви мерки, за да не бъде възпрепятствана работата в областта.

Променящи се технологии

Al Now в своя годишен доклад казва, че секторът преживява период на значителен подем и вече може да струва повече от 20 милиарда щатски долара.

„Днешните технологии имат възможността да сканират толкова прецизно нашите лица, с което могат да определят почти всяка емоция и всеки микро-израз на най-експресивната част от тялото ни. В комбинация с анализирането на тона на нашия глас, погледа и мимиките, компаниите, използващи този софтуер могат да получат наистина много чувствителни данни за нас“, обясни съоснователят на института проф. Кейт Кроуфорд.

„Днес тези технологии се използват навсякъде – те ни служат за преценки като от това как да наемете перфектния служител до оценка на нивото на болка на пациента или проследяване на нивото на внимание на студентите в час. В същото време с внедряването на тези технологии голям брой проучвания показват, че няма … съществени доказателства, че хората имат неоспорима и последователна връзка между видимото изражение на лицето и действителната емоция, която хората изпитват в даден момент.“

Проф. Крауфорд предположи, че част от проблемите произхождат от това, че някои фирми базират своя софтуер върху работата на Пол Екман, психолог, който през 60-те години предположи, че има само шест основни човешки емоции, които винаги могат да бъдат изразени с лицето.

Но тук експертът добавя, че последвалите проучвания показват, че има много по-голяма вариабилност, както по отношение на броя на емоционалните състояния, така и по начина, по който хората ги изразяват.

„Емоциите и лицевите изражения варират в различните култури и дори в различните ситуации, често в рамките на един единствен ден“, добавя тя.

Микро изражения

Al Now дава няколко примера за компании, които продават продукти за анализиране на човешки емоции, някои от които вече основават основната си работа с клиентите на база тези технологии.

Oxygen Forensics беше посочена, „е предлага софтуер за разпознаване на емоции на местната полиция, но от компанията побързаха да опровергаят тези твърдения.

„Способността за разпознаване на емоции като гняв, стрес или тревожност, предоставя на органите на реда допълнителна информация при провеждането на широкомащабни изследвания“, заяви главният оперативен директор Лий Райбер.

„В крайна сметка ние вярваме, че отговорното приложение на тази технология ще бъде фактор за превръщането на света в по-безопасно място.“

Друг пример беше HireVue, който продава управлявани от AI видео базирани инструменти, за да препоръча на кандидатите, които една компания трябва да интервюира.

Той използва алгоритми на трети страни, за да открие „емоционалната ангажираност“ в микроизразяванията на кандидатите, за да помогне да направи своя избор.

„Много кандидати за работа са се възползвали от технологията на HireVue, за да помогнат за премахването на много значителните човешки пристрастия в съществуващия процес на наемане“, заяви говорителката Ким Паоне пред агенция Reuters.

„Преди технологиите за разпознаване на емоции да могат да вземат автоматизирани решения, индустрията се нуждае от повече доказателства, че машините в действителност могат ефективно и последователно да разпознават всяка човешка емоция“, каза нейният главен изпълнителен директор Джошуа Фест пред BBC.

„Това, което може да бъде направено днес, е да се оцени поведението, което е свързано с определени емоции и да се предостави тази интелигентност на човек, който да помогне за вземане по-информирано решение. Утрешният ден и бъдещето зависят от всички практикуващи и лидери в тази област да сътрудничат, проучват и разработват решения, които помагат за насърчаване на по-дълбоко, общо разбиране, което в крайна сметка ще доведе до по-свързани взаимоотношения помежду си – не независимо от технологията, а заради нея “.

Би Би Си също поиска някои коментари от други компании, но не получи отговор.

Важен е контекста

Emteq – компания, базирана в Брайтън, която се опитва да интегрира технология за разпознаване на емоции в шлемове за виртуална реалност – не беше сред онези, които изразиха пристрастие.

Основателят ѝ каза, че макар днешните AI системи могат да разпознават различни изражения на лицето, не е просто да се изведе какво е основното емоционално състояние на субекта.

„Човек трябва да разбере контекста, в който се проявява емоционалното изражение“, обясни Чарлз Ндука.