Манипулира ли ви изкуственият интелект? За какво да внимавате

Изкуственият интелект коренно промени правилата на убеждаване: чатботовете могат да изпращат персонализирани, адаптивни и прецизно адресирани съобщения, базирани на най-интимните детайли от живота ви.

Компании като Meta и IBM изследват как изкуственият интелект може да хиперперсонализира рекламите, като използва историята на нашите чатове, играейки с нашите уникални страхове и суета.

Когато реклама на билборд или продавач на пазар се опитва да ви продаде нещо, разбирате, че зад това стои търговски интерес и винаги можете да си тръгнете, ако не ви е нужен артикулът. Но какво ще стане, ако продавачът е невидим, познава най-дълбоките ви страхове и слабости и ви дава съвети като близък човек?

Когато рекламата придобие лицето на приятел

Големите езикови модели (LLM) са способни да подбират аргументите с изключителна прецизност, анализирайки публикациите и снимките в социалните мрежи, стотиците ви предишни разговори с бота, вашите запитвания за връзки, наблюдения относно родителството, разговори за здравето или финансовите затруднения. Те се учат от всяко взаимодействие и усъвършенстват манипулацията си в реално време според вашите уникални вкусове и уязвимости.

Изследванията показват, че подобно персонализирано съдържание е с 65% по-убедително от съобщенията от хора или неперсонализиран изкуствен интелект, а по политически въпроси е четири пъти по-ефективно от традиционната реклама. Това може да бъде мощен инструмент за социална промяна – за добро или за лошо.

И има още един детайл, който прави това особено обезпокоително: всеки такъв разговор с чатбот е частен. Той не се проследява, не се проверява и не е публично достъпен.

Това вече не е просто реклама. Това е феномен, за който все още нямаме думи и ние живеем в него.

Убедителните аргументи

Големите езикови модели откриват нова граница в изкуството на убеждаването – такава, при която ИИ системите могат да използват огромни количества данни за света, езика и вашата личност, за да изградят силно персонализиран „промотиращ аргумент“.

Нека си представим как това би могло да работи на практика. Питате изкуствения интелект как да се справите с безсънието, прегарянето, искате съвет как да общувате със съпруга/съпругата си или да решавате финансови проблеми и т.н.

Представете си съобщение от любимия ви чатбот: „Забелязах, че напоследък циклите ви на сън са лоши – средно 5,4 часа с много периоди на неспокойствие. Това е често срещано явление, когато има стрес във връзката. Вашият партньор току-що се е върнал на работа, а 76% от двойките изпитват стрес по време на смяна на кариерата.“

Ново хапче за сън показва ефективност при безсъние, свързано с връзките. Искате ли да насроча консултация по телемедицина за утре в 14:00 ч.?

Това може да ви се стори грижовно, като съвет от добронамерен приятел, който наистина ви познава. Или може да ви се стори ужасяващо, сякаш някой друг е прочел дневника ви и е започнал да го използва.

Това е особено рисковано в медицинските въпроси: хората все по-често се обръщат към изкуствения интелект за съвет, въпреки че проучванията показват, че подобни съвети са проблематични в почти 50% от случаите.

Опасността не е само в точността на таргетирането – това съдържание не може да се контролира външно. Това, което виждате, не може да бъде проследено от надзорна институция, защото вие сте единственият човек, който някога го е виждал.

Как изкуственият интелект променя нашето възприятие за света?

Още по-тревожно е, че тези системи могат постепенно и незабележимо да променят нашето разбиране за света.

Отдавна е известно, че социалните мрежи и алгоритмите на търсачките създават „информационни балони“, където ни се предоставя внимателно обработен текст, видео и аудио, които или подсилват нашите възгледи, или се опитват да ги променят в посока, удобна за някой друг.

Чрез контролиране на това, което виждаме и как се представя, ИИ системите могат постепенно да променят начина, по който мислим и интерпретираме реалността. Това става особено опасно, когато се комбинира с емоционална манипулация. Производителите твърдят, че техните системи могат да оценят емоционалното състояние на потребителя от текст, глас или изражения на лицето и съответно да коригират стратегиите за убеждаване.

Уязвим ли си? Самотен? Ядосан? Системата може да смекчи или да засили подхода ти, за да използва тези емоции в своя полза. Още по-лошо, тя може изкуствено да предизвика определени емоционални състояния, за да направи убеждаването по-ефективно.

Предишни изследвания показват, че ИИ моделите са склонни да ласкаят потребителите: те са 50% по-склонни от другите хора да потвърждават и одобряват действията на потребителите, дори когато тези действия са потенциално вредни. Други изследвания установяват, че чатботовете умишлено използват емоционални трикове – като например обръщения към вина или техники, които предизвикват страх от пропускане, за да поддържат потребителите ангажирани в разговорите, когато се опитват да се сбогуват.

Има и случаи, в които чатботовете дори са подтиквали потребителите към самонараняване, насърчавали са мислите за самоубийство или са предоставяли подробни инструкции как да се самонаранят.

Дори „защитните бариери“, които корпорациите въвеждат, за да предотвратят вреда, се оказаха сравнително лесни за заобикаляне.

Кой печели от това?

Убеждаването не е страничен ефект от технологиите: то често е тяхната цел. Всеки интерфейс, известие и дизайнерски елемент носи в себе си намерението да повлияе на поведението.

Понякога тези влияния са желателни: напомняния за прием на лекарства, насърчаване към физически упражнения или подтик за кръводаряване – неща, които засилват нашите собствени ценности. Но същите техники могат да служат на интересите на някой друг, за да ни кара да купуваме, да преглеждаме новини, да работим по-усърдно или да се откажем от личния си живот.

Тези методи могат както да поддържат, така и да експлоатират в зависимост от това кой контролира системата, какви цели преследва и дали има истинско съгласие от страна на потребителя.

Трябва да зададем трудните въпроси и най-вече: Кой има полза? Кой бива убеждаван и знае ли този човек, че бива убеждаван?

Технологиите, които създаваме, трябва да подкрепят рефлективния избор, а не да го подкопават. Тъй като изкуственият интелект оформя начина, по който мислим, чувстваме и действаме, нашите етични задължения нарастват: да създаваме системи, които са прозрачни, които дават приоритет на човешкото достойнство и които дават възможност на нас да вземаме решения сами. Нуждаем се от нещо повече от иновации – нуждаем се от мъдрост.