Вярвахте на тези постове, а те са написани от изкуствен интелект: политическите ботове завладяха социалните мрежи

Изкуственият сценарист винаги знае точно кога да се пошегува и с кого да спори.

Неизвестни нападатели са използвали популярната невронна мрежа Claude като част от мащабна кампания за скрито влияние в социалните мрежи. Според специалистите от Anthropic изкуственият интелект е бил използван за координиране на мрежа от стотици политически оцветени персонажи, представени като реални потребители във Facebook и X. Тези акаунти са взаимодействали с десетки хиляди реални потребители, подкрепяйки определени политически и икономически наративи.

За разлика от обичайните атаки с рязък изблик на активност, тази операция наблегна на продължителното присъствие и постепенното влияние. Акаунтите популяризираха умерени позиции, свързани с интереси, вариращи от Европа и Иран до ОАЕ и Кения. По-конкретно постовете възхваляваха предимствата на правенето на бизнес в ОАЕ, критикуваха европейските разпоредби и засягаха енергийната сигурност и националната идентичност.

Редица постове подкрепяха конкретни албански политици и осъждаха техните опоненти в една европейска държава. В сегмента на кенийските социални медии акцентът беше поставен върху инициативите за развитие и популяризирането на отделни политически фигури.

Експертите отбелязват, че невронната мрежа е била използвана не само за генериране на съдържание, но и за определяне на момента, в който автоматизираният акаунт трябва да постави лайк, да коментира или да направи репост. Claude е действал като посредник, вземайки решения въз основа на зададени политически настройки. Всички герои са взаимодействали по строга логика, предписана в JSON формат – със съхранена история на действията, ключови теми и лични характеристики. Това им е позволявало да имитират поведението на реални хора и да действат синхронно на различни платформи.

Организаторите са обърнали специално внимание на имиджа на своите акаунти. Ако са възниквали подозрения за тяхната неестественост, невронната мрежа ги е насочвала да реагират със сарказъм и хумор, за да смекчат евентуалното излагане на риск. Според експертите тези мерки показват високо ниво на подготовка и дългосрочно планиране на злонамерената кампания.

Anthropic предполага, че операцията е част от комерсиална схема, при която невронната мрежа се предлага под наем на клиенти от различни държави. Вече са идентифицирани поне четири независими кампании, базирани на подобна архитектура.

В същия доклад компанията описва и други опити за злоупотреба с възможностите на Claude. Например един от нападателите е използвал Claude, за да събира данни за изтекли пароли за охранителни камери и да избира комбинации за хакване на интернет ресурси. В друга ситуация Claude е обработвал данните от каналите на Telegram, посветени на открадната информация, създавал е скриптове за анализ на сайтове и е оптимизирал инструментите за търсене на самите престъпници.

Имало е и случаи на използване на Claude за подобряване на фалшиви обяви за работа, ориентирани към източноевропейци. Друг потребител с базови познания е успял да използва невронните мрежи, за да създаде зловреден софтуер с възможност да заобикаля защитите и да намира жертви в даркнет.

Anthropic подчертава, че все повече заплахите от подобен характер ще се появяват с все по-голямата достъпност на невронните мрежи. Използването на изкуствен интелект размива границата между начинаещите и опитните киберпрестъпници, като рязко ускорява тяхното „професионално развитие“ и им предоставя по-опасни инструменти.

Въпреки редовните усилия за укрепване на защитата и въвеждане на механизми за контрол, хакерите продължават да намират обходни пътища. Измамниците се възползват дори от малките уязвимости в архитектурите на моделите, като адаптират схемите си към новите алгоритми. Това създава постоянна надпревара между разработчиците и тези, които се стремят да използват невронните мрежи в тяхна вреда.