Експериментът Say No To Disinfo: ИИ може да унищожи банките!

Банковият сектор остана беззащитен пред вълната от изкуствени слухове.

Британската изследователска група Say No To Disinfo заедно със специалистите по комуникации Fenimore Harper проведоха експеримент, който демонстрира как изкуственият интелект може да се използва за организиране на дезинформационни атаки, които могат да доведат до финансова нестабилност. Изследването симулира ситуация, при която масовото разпространение на слухове предизвиква отлив на депозити от банките.

В рамките на експеримента 500 клиенти на британска банка бяха изложени на целенасочено информационно въздействие. Синтетичните съобщения, създадени от изкуствен интелект, експлоатираха съществуващите страхове и убеждения, за да убедят потребителите, че спестяванията им са изложени на риск. Дезинформацията беше разпространена предимно чрез социалната мрежа X (бившата Twitter) чрез постове и мемета.

Резултатите се оказаха изключително тревожни: 61% от участниците, след като прочетоха невярната информация, изразиха готовност да изтеглят парите от своите сметки. Сред тях 33% са били абсолютно сигурни за това си решение, а други 27% са смятали, че това е твърде вероятно. Анализът показа, че са достатъчни нищожните 10 паунда (около 13 щатски долара), похарчени за генериране на съдържание с използване на изкуствен интелект, което води до преместване на финансови активи на стойност 1 млн. паунда.

Авторите на проучването подчертават, че подобни дезинформационни атаки могат да бъдат извършени много бързо, с минимални разходи и представляват сериозна заплаха за финансовата система. Нещо повече: повечето банки не разполагат с инструменти за своевременно откриване на пофобен род заплахи и за последваща адекватна реакция.

Експертите препоръчват на финансовите институции да обръщат повече внимание върху мониторинга на доверието на клиентите, идентифицирането на възможните нападатели и провеждането на стратегически симулации, за да се подготвят за подобен род атаки. Те настояват да се разработят защитни мерки за противодействие на разпространението на дезинформация, генерирана от изкуствен интелект, и за намаляване на рисковете от финансови кризи, причинени от подобни манипулации в цифровото пространство.