Изкуственият интелект може незабележимо да превземе демокрацията с помощта на рояци от ботове

Възниква нова политическа заплаха, която е много по-незабележима от протестите или традиционните манипулации с избирателите. Изследователи предупреждават, че високореалистични персонажи, управлявани от изкуствен интелект скоро могат да започнат да играят важна роля във формирането на общественото мнение и да оказват влияние върху демократичните системи.

Неотдавнашна статия в списание Science описва как големи групи от AI персони могат убедително да имитират човешкото поведение в интернет. Тези системи могат да проникват в дигиталните общности, да участват в дискусии и да влияят на гледните точки с невероятна скорост. За разлика от по-ранните мрежи от ботове, тези AI агенти могат да се координират мигновено, да реагират на обратната връзка и да поддържат единна позиция в хиляди акаунти.

Бързият напредък в големите езикови модели и мултиагентните системи позволи на един оператор да управлява огромни мрежи от AI „гласове“. Тези личности могат да изглеждат автентични, да използват местния език и тон и да взаимодействат по начин, който изглежда естествен за другите потребители.

Те са способни да провеждат милиони малки експерименти, за да определят кои послания са най-убедителни. Това им позволява да усъвършенстват комуникационните си стратегии в реално време и да създават илюзията за широк обществен консенсус. Всъщност този консенсус е изкуствено създаден и има за цел да повлияе на политическите дебати.

Въпреки че напълно развитите AI роботи все още са до голяма степен теоретични, изследователите казват, че вече има тревожни признаци. Към тях спадат създадените от AI дипфейкове и фалшиви новинарски издания, които повлияха на неотдавнашните предизборни дебати в страни като САЩ, Тайван, Индонезия и Индия, както отбелязва специалистът по информатика от Университета на Британска Колумбия д-р Кевин Лейтън-Браун.

В същото време организациите за мониторинг са открили прокремълски мрежи, разпространяващи огромни обеми онлайн съдържание. Счита се, че тази активност е насочена към формиране на данни, използвани за обучение на бъдещи AI системи, като потенциално влияе върху тяхното поведение и приоритети в информацията. В перспектива експертите смятат, че AI роботите могат да повлияят съществено на баланса на силите в демократичните общества. Д-р Лейтън-Браун предупреждава, че тези системи вероятно ще променят начина, по който хората се доверяват на информацията в мрежата.

„Не бива да се мисли, че обществото ще остане непроменено с появата на тези системи. Вероятният резултат ще бъде намаляване на доверието към непознати гласове в социалните мрежи, което може да засили влиянието на знаменитостите и да затрудни пробива на съобщенията от обикновените хора“.

споделя д-р Лейън-Браун

Изследователите предполагат, че предстоящите избори могат да се превърнат в критично изпитание за тази технология. Ключовата задача ще бъде разпознаването и противодействието на тези кампании за влияние, базирани на ИИ, преди те да станат твърде мащабни, за да бъдат контролирани.

Заплахата изглежда ужасяващо реална, особено на фона на вече съществуващите проблеми с дезинформацията. Въпросът е дали демократичните институции и технологичните компании ще успеят да разработят ефективни механизми за защита, преди „роякът“ да стане повсеместен. Възможно е следващата стъпка да бъде надпревара във въоръжаването между AI, създаващ фейкове и AI, който ги открива.