ИИ маркетолозите ще се научат да четат мислите на потребителите

Кеймбриджските специалисти по етика на изкуствения интелект предупреждават за нова ера на „икономика на намеренията“, в която изкуственият интелект ще може да предсказва и определя нашите решения. Мотивите на потребителите ще се превърнат в новата валута. Този модел, основан на анализа на човешкото поведение, обещава огромни ползи за компаниите. Така например изкуственият интелект може да предложи да запази билет за филм, който даден потребител е споменал, или да предвиди политическите му предпочитания, насочвайки разговора в правилната посока. Тези технологии крият риск от мащабна социална манипулация.

Изследователи от Центъра за бъдещето на интелекта в Кеймбридж смятат, че бързото развитие на генеративния ИИ и популярността на чатботовете поставят началото на нова ера на „технологиите за убеждаване“, за които технологичните гиганти вече говорят. „Антропоморфните“ ИИ агенти, от чатботове до цифрови учители и дори „приятели“, ще имат достъп до огромни количества лични психологически и поведенчески данни, често получени чрез неформален диалог.

Според изследователите този ИИ ще съчетава познанията за нашите онлайн навици с невероятната способност да се приспособява към нас, създавайки усещане за комфорт, имитирайки личностни черти и предвиждайки желаните реакции. Това ще даде възможност за постигане на ниво на доверие и връзка, което ще открие възможности за социална манипулация в промишлен мащаб. Към внедряването на ИИ асистенти във всички сфери на живота са насочени огромни ресурси, което повдига въпроса чии интереси и цели обслужват тези така наречени „асистенти“.

В статията си учените предлагат концепцията за „икономика на намеренията“ като „динамична икономика на вниманието“, която анализира връзката между вниманието на потребителите, техния стил на общуване, поведенчески модели и като следствие – решенията, които те вземат. Авторите подчертават, че въпреки променливостта на индивидуалните намерения, идентифицирането и насочването към устойчиви намерения е много изгодно за рекламодателите.

В икономиката на намеренията големите езикови модели (LLM, large language models) ще могат съвсем евтино да анализират темпа на речта, политическите възгледи, лексиката, възрастта, пола, историята на публикациите в интернет и дори склонността към ласкателства, за да таргетират по-прецизно рекламите. Тази информация ще бъде използвана в комбинация с рекламните послания за постигане на желания резултат, като например продажба на билет за кино („Казахте, че сте уморени, да ви резервирам ли филма, за който говорихме?“). Всичко това може да доведе до това, че разговорите ще бъдат насочвани в полза на определени платформи, рекламодатели, компании и дори политически сили.

Изследователите смятат, че икономиката на намеренията все още е само в плановете на ИТ индустрията, но първите признаци на тази тенденция вече са видими в изследователските документи и изявленията на големите технологични компании. Така например през 2023 г. OpenAI в своя блог призовава за споделяне на „данни, които показват намеренията на хората… на всеки език, по всяка тема и под всякаква форма“, а главният продуктов директор на Shopify (партньор на OpenAI) заяви на конференция през същата година, че чатботовете „съвсем ясно ще разбират намеренията на потребителите“. Главният изпълнителен директор на Nvidia говори публично за използването на BNM за определяне на намеренията и желанията, а Meta още през 2021 г. публикува проучване за „Intentonomy“, набор от данни за разбиране на човешките намерения.

Компаниите вече монетизират вниманието. Следващата логична стъпка в стремежа към печалба ще бъде използването на технологии за предвиждане на намеренията и всъщност за продажба на желанията, преди те да са напълно оформени в съзнанието на потребителите. Авторите подчертават нееднозначността на това развитие, като отбелязват както потенциалните ползи, така и риска от отрицателни последици, и смятат, че обществената осведоменост е ключов фактор.