Руската дезинформация е „заразила“ всички популярни чатботове с ИИ, сочи проучване

Според нов доклад на NewsGuard руската мрежа за дезинформация активно манипулира чатботове с изкуствен интелект, за да разпространява фалшиви новини и пропаганда онлайн. Проучването показва, че прокремълските наративи изкривяват работата на изкуствения интелект, като засягат милиони потребители по света, пише Axios.

Докладът определя „Правда“, базирана в Москва мрежа за дезинформация като основна сила зад кампанията. Нейната цел не е директно да убеждава хората, а да влияе върху отговорите на чатботовете с изкуствен интелект, като задръства търсачките и уебсайтовете с голямо количество дезинформационно съдържание.

По данни на NewsGuard:

• През 2023 година руската мрежа „Правда“ е публикувала повече от 3,6 милиона статии, които са били подадени към популярни чатботове с изкуствен интелект от компании като Microsoft, Google, OpenAI, xAI, Meta, Anthropic, Mistral, Perplexity и You.com;
• Мрежата е разпространила поне 207 доказани фалшификати, повечето от които са свързани с Украйна;
• 1/3 от отговорите на водещите чатботове възпроизвеждат аргументи, първоначално публикувани от мрежата „Правда“, което потвърждава уязвимостта на моделите на изкуствения интелект към манипулации.
• Като доминира в заявките за търсене, прокремълската кампания изкривява наборите от данни за обучение, в които се използват големи езикови модели (LLM), като оказва влияние върху начина, по който ИИ обобщава новините и отговаря на запитванията на потребителите.

Мрежата е стартирана през април 2022 година, след пълномащабното нахлуване на Русия в Украйна. Оттогава тя се е разраснала до 49 държави и работи на десетки езици. По данни на NewsGuard:

• 150 уебсайта са идентифицирани като част от мрежата, като 40 от тях имат имена на домейни, свързани с региони в Украйна;
• Някои сайтове се фокусират върху конкретни теми, а не върху регионална дезинформация;
• „Правда“ не създава собствено съдържание, а обобщава материали от руски държавни медии и прокремълски блогъри, като засилва тяхното влияние.

Докладът потвърждава опасенията относно ролята на изкуствения интелект в разпространението на дезинформация. С нарастващата популярност на съдържанието, генерирано от изкуствен интелект, злонамерените участници могат умишлено да „обучават“ ИИ-модели, заливайки интернет с пропаганда.

NewsGuard цитира и реч от януари 2023 година на Джон Марк Дюган, американец, избягал в Москва и станал прокремълски пропагандист. На конференция на руски правителствени служители той открито заявява:

„Ако популяризираме руските разкази от руска гледна точка, всъщност можем да променим световния изкуствен интелект“.

Проучването беше публикувано на фона на съобщенията, че САЩ намаляват усилията си за противодействие на руските кибератаки. Експертите предупреждават, че дезинформацията и непреднамерените грешки на ИИ могат да имат сериозни последици, особено когато чатботовете се превърнат в основен източник на информация за милиони хора.

Тъй като системите с ИИ все по-често се използват за формиране на общественото мнение, стратегията на мрежата „Правда“ може да има дългосрочни последици за глобалната информационна сигурност, като засегне политическите процеси, общественото мнение и международните отношения.