Социалните мрежи скоро ще бъдат наводнени от AI чатботове, предупреждават учени

В обозримо бъдеще социалните мрежи може да започнат да бъдат масово атакувани от чатботове с изкуствен интелект, които имитират човешкото поведение и се възползват от склонността на обикновения човек да следва тълпата. Те ще могат да разпространяват невярна информация, да тормозят потребителите и да влияят на политическите процеси.

Подобни масови набези заплашват да се превърнат в ново оръжие в информационните войни. AI чатботовете ще могат да имитират човешкото поведение, като по този начин избягват откриване и създават илюзията за естествено онлайн движение.

Човешкият инстинкт често ни подсказва да следваме „мъдростта“ на мнозинството, но в този случай този механизъм ще бъде задвижван от волята на собственика на AI чатбот, действащ от името на неизвестен човек, група, политическа партия, компания или държавник, предупреждава норвежкият професор Йонас Кунст. Тези, които откажат да се присъединят към виртуалната тълпа, могат да бъдат тормозени от същите ботове с изкуствен интелект, които се стремят да потиснат аргументите, противоречащи на техния разказ.

Изследователите не посочват точни срокове за навлизането на такива „рояци“ AI чатботове, но предупреждават, че откриването им няма да е лесно – дори не може да се твърди, че те вече не са започнали своята дейност в социалните мрежи. Заплахата от масови атаки се засилва от факта, че нашите цифрови екосистеми вече са отслабени от „ерозията на рационално-критичния дискурс и липсата на споделено разбиране за реалността сред гражданите“. Примитивните AI чатботове вече генерират повече от половината от целия уеб трафик, но те все още са способни да изпълняват само основни задачи, като например да публикуват едно и също подстрекателско съобщение – откриването им е лесно, а за управлението на такива ботове са необходими оператори.

Чатботовете с изкуствен интелект, базирани на големи езикови модели ще се окажат много по-сложни – те ще бъдат достатъчно усъвършенствани, за да се адаптират към онлайн общностите, в които проникват, и ще въвеждат набори от различни личности, които запазват паметта и идентичността си. Това ще бъде един вид „самодостатъчен организъм, способен да координира действията си, да се учи, да се адаптира във времето и по този начин да се специализира в използването на човешките уязвимости“, подчертава професор Кунст.

Заплахата вече не е хипотетична. Миналата година администрацията на общността Reddit заплаши със съд изследователите, които използваха чатботове с изкуствен интелект в експеримент за манипулиране на мненията на четири милиона потребители в една секция.

Отговорите на чатботовете били от 3 до 6 пъти по-убедителни от постингите на истински хора, гласят предварителните резултати от изследването.

Като се има предвид, че агентите с изкуствен интелект могат да водят безмилостна кампания денонощно, потребителите на социалните мрежи няма да могат да им противодействат сами. Администрациите на платформите обаче се нуждаят от присъствието на реални потребители, така че се очаква скоро да бъдат налични средства за подобрена автентификация на акаунтите. Това означава, че хората ще трябва да доказват, че са хора. Но това не е панацея – в някои държави анонимността е средство за защита на политическите инакомислещи. Въпреки че удостоверяването на автентичността би затруднило значително нападателите.

Алтернативните мерки включват схеми за сканиране на трафика в реално време с цел откриване на статистически аномалии и създаване на общност от професионалисти и институции, които да проучват и реагират на тези атаки и да повишават обществената осведоменост за проблема. Пренебрегването на такива средства заплашва да наруши изборите и други важни събития.