Google е научила изкуствения интелект да разпознава емоциите – това може да има ужасни последици

Google съобщи, че новото семейство на нейния изкуствен интелект притежава интересната способност да „разпознава“ емоциите. Според компанията представената в четвъртък нова ИИ фамилия PaliGemma 2 може да анализира по нов начин изображенията, което позволява на ИИ да генерира описания и да отговаря на въпроси за хората, които „вижда“ на снимките.

„PaliGemma 2 генерира подробни, контекстуално релевантни описания за образи, като отива отвъд простото идентифициране на обектите, за да опише действията, емоциите и цялостното повествование за дадена сцена“, пише Google в официалния си блог.

За да разпознава емоциите, PaliGemma 2 трябва да бъде съответно конфигурирана. Без него тя не мое да работи. Експертите, с които разговаряха репортерите от портала TechCrunch, обаче са разтревожени от перспективата за появата на публично достъпен детектор на емоции.

„Аз съм много обезпокоен от това. За мен е проблематично да се мисли, че можем да „четем“ емоциите на хората. Това е все едно да поискате съвет от Magic 8 Ball (Magic 8 Ball е популярна играчка) за съвет по сериозни въпроси“, заяви пред TechCrunch Сандра Вахтер, професор по етика на данните и изкуствен интелект в Оксфордския институт за интернет изследвания.

Технологичните ИИ компании от години се опитват да създадат изкуствен интелект, който да може да открива емоционални аспекти във всичко – от обучението по продажби до задачи, свързани с предотвратяване на злополуки.

Разработването на повечето детектори на емоции се основава на ранната работа на американския психолог Пол Екман, който предполага, че хората имат шест основни вида емоции: гняв, изненада, отвращение, удоволствие, страх и тъга. Последвалите изследвания по този въпрос обаче оспориха хипотезата на Екман и показаха, че съществуват сериозни различия в начина, по който членовете на различните слоеве на обществото изразяват своите чувства.

„Определянето на емоциите в някакъв универсален общ случай е невъзможно, защото хората преживяват емоциите по сложен начин. Струва ни се, че като гледаме хората, можем да определим как се чувстват те. И тази техника е изпробвана през годините от различни хора, включително от разузнавателните агенции и рекламните компании. Сигурен съм, че в някои случаи е напълно възможно да се открият някои общи черти, но не за това става въпрос и не е нещо, за което в крайна сметка може да се намери универсален отговор“, казва пред TechCrunch Майк Кук, изследовател, специализиран в областта на изкуствения интелект в Лондонския университет „Куин Мери“.

Експертите смятат, че системите за разпознаване на емоции обикновено са ненадеждни и пристрастни поради нагласите на самите разработчици на такива системи. В проучване на MIT от 2020 г. учените показват, че моделите за анализ на лицето могат да формират непреднамерени предпочитания към определени изражения на лицето, като например усмивката. По-новите изследвания показват, че моделите за анализ на емоциите приписват повече негативни емоции на лицата на чернокожите хора, отколкото на лицата на белите хора.

Google заявява, че е провела „обширни тестове“ за оценка на демографските пристрастия на PaliGemma 2 и е установила „значително по-ниски нива на токсичност и нецензурни изрази“ в сравнение с индустриалните еталони. Компанията обаче не предоставя пълен списък на използваните еталони, нито посочва какви видове тестове са били проведени.

Единственият бенчмарк, който Google разкри, е FairFace, който се състои от набор от десетки хиляди портрети на хора. Компанията твърди, че PaliGemma 2 се е представила добре при оценката на FairFace. Но някои експерти критикуват еталона за неговата пристрастност, като отбелязват, че FairFace не представя всички расови групи, а само няколко.

„Тълкуването на емоциите е доста субективен въпрос, който надхвърля използването на визуални средства и е тясно свързан с личния и културния контекст. Като оставим настрана изкуствения интелект, изследванията показват, че не можем да разпознаваме емоциите само по чертите на лицето“, казва Хайди Кхлааф, главен учен по изкуствен интелект в AI Now Institute, организация с нестопанска цел, която изучава социалните последици от изкуствения интелект.

В ЕС използването на системи за разпознаване на емоции предизвика сериозни въпроси от страна на регулаторните органи. Законът за изкуствения интелект, основният законодателен акт на ЕС в тази сфера, забранява на училищата и работодателите да използват детектори на емоции. Той обаче не забранява използването им от правоприлагащите органи.

Основното притеснение на експертите по отношение на моделите с отворен код за изкуствен интелект като PaliGemma 2, които се разпространяват от най-различни източници, включително платформата за разработване на изкуствен интелект Hugging Face, е потенциалът за злоупотреба и неправомерно използване, което може да доведе до реални вреди.

„Ако тази така наречена „емоционална идентификация“ се основава на псевдонаучни пристрастия и предразсъдъци, съществува значителен риск от последици за това как тази способност може да се използва за допълнителна и фалшива дискриминация на различни маргинализирани групи от страна на правоприлагащите органи, работодателите, граничните власти и т.н.“, казва Хлааф.

От друга страна, Google заявява, че компанията тества своите модели на изкуствен интелект за податливост на „репрезентативни вреди“ (стереотипи за социални групи, като расови, етнически, полови или религиозни групи, които водят до негативни последици за тези групи и техните членове).

„Извършихме сериозна етична оценка и оценка на безопасността на моделите на PaliGemma 2, включително безопасността за децата и безопасността на съдържанието“, добави компанията.

Сандра Вахтер, професор по етика на данните и изкуствен интелект в Оксфордския интернет институт, не е убедена от този отговор на компанията:

„Отговорна иновация е тази, при която се мисли за последиците от нейното разработване още от първия ден на работата върху нея, всеки път, когато влизате в лабораторията си, и след това продължавате да го правите през целия жизнен цикъл на продукта. Мога да си представя много потенциални проблеми, които подобни модели биха могли да създадат и в крайна сметка да доведат до едно мрачно бъдеще, в което емоциите ви определят дали ще получите работа, заем и дали ще отидете в университет.“