ИИ се научи перфектно да имитира хората, което се е превърнало в заплаха за резултатите от проучванията

Анкетите на общественото мнение и социологическите проучвания се присъединиха към дългия списък с теми, които могат да бъдат манипулирани от изкуствения интелект. Ново изследване показва, че технологията може почти перфектно да имитира хората, заобикаляйки стандартните предпазни мерки, предназначени за откриване на ботове. Проучване на университета Дартмут демонстрира как усъвършенстваният изкуствен интелект може да изкриви данните от анкетите в мащаб, достатъчен за фалшифициране на резултатите.

Автономен синтетичен респондент, базиран на голям езиков модел (LLM), създаден от Шон Уестууд, доцент по управление в Дартмут и автор на статията, успя да заобиколи системите за откриване на ботове в онлайн анкетите. Използвайки подкана от 500 думи, изкуственият интелект създава персона въз основа на генерирани демографски данни като възраст, пол, раса, образование, доход и щат на пребиваване. За да избегне автоматичното откриване, ботът е симулирал реалистично време за четене въз основа на нивото на образование на генерираната персона, прави движения на мишката, подобни на човешките, и пише отговори на отворените въпроси символ по символ, като дори допуска правдоподобни печатни грешки и корекции.

В над 43 000 теста, изкуственият интелект е убедил 99,8% от системите, че е човек. Той не е допуснал грешки в логическите пъзели и reCAPTCHA тестовете, а също така е успял да избегне задачите, които изкуственият интелект би могъл лесно да изпълни, но хората не.

Според данните, биха били необходими само 10 до 52 фалшиви отговора от изкуствен интелект, за да се променят резултатите от седем големи национални анкети преди изборите през 2024 г. Цената за внедряване на автоматизирани отговори би била само 5 цента всеки, в сравнение с типичните 1,50 долара, плащани на хора за попълване на анкета. Тревожен е и фактът, че ботовете са били в състояние да предоставят безупречни отговори на английски език, дори когато са били програмирани на руски, мандарин или корейски, което подчертава колко лесно чуждестранните участници могат да манипулират резултатите от анкетите.

Този AI-агент представлява програма, написана на Python, която не зависи от модела, така че може да бъде внедрена с помощта на API от AI-компаниите или да се изпълнява локално с модели с открит изходен код от рода на Llama. По време на тестовете основно е използван модела o4-mini на OpenAI, като за някои задачи приложение са намерили моделите DeepSeek R1, Mistral Large, Claude 3.7 Sonnet, Grok3 и Gemini 2.5 Preview.

Изкуственият интелект може да окаже огромно влияние и върху научните изследвания, които разчитат на данни, събрани чрез онлайн платформите.

„Вече не можем да бъдем сигурни, че отговорите на анкетите идват от реални хора“ — казва Уестууд. „С данни, опетнени от ботове, изкуственият интелект може да отрови цялата екосистема от знания.“ Уестууд предупреди, че научната общност трябва да разработи начини за събиране на данни, които не могат да бъдат манипулирани от съвременните AI-инструменти.

„Технологията за проверка на истинското човешко участие съществува; просто ни е нужна воля да я приложим“ — казва той. „Ако действаме сега, можем да запазим както целостта на изборите, така и демократичната отчетност, която те осигуряват.“