Изкуствен интелект ще решава дали сте достойни за работа, кредит и щастие

Изкуственият интелект (ИИ) бързо навлиза в почти всеки аспект на съвременния живот – от цифровите асистенти до автономните автомобили.

Една от най-изтънчените и потенциално трансформиращи тенденции обаче е емоционалното разпознаване с помощта на ИИ (EAI).

Тези иновативни системи работят чрез анализ на изражението на лицето, тона на гласа, текстовите съобщения и други биометрични данни, уловени чрез камери, носими устройства и записи на разговори. На практика всяко движение на курсора на мишката или докосване на екрана може да разкрие повече за даден човек, отколкото той може да осъзнае. EAI обещава способността да открива и предсказва емоционалното състояние на индивида.

Системите за разпознаване на емоции вече се използват активно в области като колцентрове, финанси, здравеопазване и процеси за набиране на персонал. Повече от половината от големите работодатели в САЩ използват EAI технологии, за да следят психическото състояние на служителите си.

Въпреки това научната общност продължава да обсъжда научната валидност и етичните последици от подобни технологии. Учените поставят под въпрос самата възможност за точно разпознаване на емоциите чрез изражението на лицето, гласа и физиологичните сигнали. В крайна сметка емоциите са нюансирани по своята същност и дори хората с интуитивното си разбиране на социалните сигнали често се затрудняват да ги интерпретират правилно.

Този скептицизъм е подкрепен от реални опасения за неправилно прилагане на EAI при вземането на важни решения за наемане, уволняване или повишаване на служителите.

В края на краищата цялата система се основава на предположението, че технологията безпогрешно открива вътрешното емоционално състояние на човека. На практика обаче това може да доведе до сериозни грешки поради непотвърдени и потенциално неточни интерпретации.

Проблемът се усложнява от променливостта на точността на разпознаване, която зависи от качеството на суровите данни и спецификата на целевите резултати. В стремежа си да увеличат максимално точността на разпознаване на емоции разработчиците са принудени да опростяват техните определения в наборите от данни за обучение. От една страна, такива опростявания позволяват на алгоритмите с изкуствен интелект да идентифицират и обработват емоционални модели, което прави задачата за разпознаване изпълнима.

От друга страна обаче, те значително обедняват богатството и многообразието на истинските човешки емоции в реалния живот. Свеждането на емоциите до ограничен набор от модели неизбежно води до стесняване и често неправилно или непълно тълкуване на емоционалното състояние на човека. Така се пренебрегва цялата палитра от нюанси и оттенъци на неговите преживявания.

На работното място нараства загрижеността на служителите относно потенциала на EAI да навлезе в личното им пространство, поради погрешни заключения на ИИ.

Хората са загрижени за риска от необосновани решения за персонала, основани на погрешна оценка на техните емоции. Друго притеснение е ограничената способност на разпознаването да отчита нюансите на изразяване на емоциите при различните раси и полове, което може да задълбочи съществуващите неравенства и дискриминация.

Критиците алармират и за по-широките последици от технологиите за наблюдение на емоциите върху обществените норми и индивидуалните свободи. Регулаторните органи категоризират EAI като високорискови системи в „Закона за ИИ“, като подчертават потенциалната им заплаха за правата на гражданите, особено когато се използват без контрол на работното място и в образователните институции.

В резултат на това би било изключително безразсъдно да се доверяваме безрезервно на способностите на EAI в промишлен мащаб единствено въз основа на уверенията на доставчиците за точността на разпознаване. Подобна неконтролируема власт е изпълнена с потенциал за манипулация, инвазивно наблюдение и подкопаване на личната автономия. Отговорността за етичното използване на такива технологии е изцяло на създателите и на организациите. Внедряването трябва да се извършва с най-голямо уважение към сложната природа на човешките емоции – толкова променливи и многостранни, че дори хората със социална интуиция често грешат в интерпретацията си.

Ето защо е толкова важно да се подхожда към приемането на технологии за предсказване на емоции, базирани на изкуствен интелект с предпазлив скептицизъм и критичен поглед. Уверенията на развойните компании са само декларации, които са далеч от истинското разбиране на фината емоционална динамика на човешките същества.