Стари измами, нови обрати. Изкуственият интелект се превърна в най-добрия приятел на телефонните измамници

OpenAI публикува доклад за това как измамниците и пропагандаторите манипулират езиковите модели.

Измамниците и пропагандаторите все по-често използват езиковите модели не за забавление, а за да изнудват за пари и да влияят върху общественото мнение. В нов доклад OpenAI подробно описва десетки такива случаи и демонстрира как нападателите включват изкуствения интелект в познати схеми.

Една от най-показателните истории е наречена Operation Date Bait. Мрежа от акаунти, за които се твърди, че са свързани с измамни центрове в Камбоджа, рекламира в социалните медии фиктивната елитна агенция за запознанства „Klub Romantis“. Рекламите са били насочени към младите мъже в Индонезия, интересуващи се от голф, яхти и луксозен живот. След кликване, жертвите са били насочвани към чатбот, действащ като „секретарка“, след което разговорът е бил прехвърлян в Telegram, където са присъствали оператори на живо. Те са ги призовавали да плащат за „мисии“, „VIP карти“ и подкрепа за избраната жена и накрая са изисквали голямо плащане под прикритието на „обезщетение“ или „депозит за потвърждение“. Според доклада, измамниците едновременно са поддържали вътрешни записи и дори са изчислявали максималната сума, която могат да изнудят от всяка жертва.

Operation False Witness действа по подобен начин. Участниците се представят за адвокати и служители на американски агенции, включително отдела за жалби за интернет престъпления на ФБР. Те предлагат на жертвите да си възстановят пари, загубени при други измами, и изискват 15% „такса за обслужване“ предварително или във вид на депозит. Моделите са използвани за написването на съобщения “в юридически стил“, превод на кореспонденция и създаване на фалшиви документи, включително фиктивни карти за членство в адвокатска колегия.

Отделен раздел от доклада е посветен на операциите за влияние. В кейса Silver Lining Playbook акаунтите, вероятно действащи от Китай, са подготвяли имейли до американски служители и анализатори от името на фиктивна консултантска фирма. Авторите са искали помощ при изготвянето на кратки и убедителни имейли с елементи на психологически натиск и покана за „консултации“. Паралелно с това са се интересували от местоположението на федералните сгради в САЩ и от софтуер за подправяне на лица за видеоклипове. Компанията не е открила доказателства, че получателите са отговорили на тези имейли.

В операция Trolling Stone мрежа от акаунти публикува материали относно ареста на Константин Руднев в Аржентина и остави масови коментари под новината, създавайки впечатление за широка подкрепа. Някои от публикациите бяха публикувани на страници във Facebook, маскирани като аржентински медийни издания, с администратори, разположени в Пакистан, Армения и Уругвай. Дейността изглежда координирана, но обхватът в повечето случаи остава малък.

Акаунти, работещи от името на мрежата „Rybar“, са били свързани с операция Fish Food. Те генерирали публикации на руски, английски и испански език за Telegram и X, а също така подготвяли партиди от коментари, които след това са публикувани от различни акаунти. В един случай са създадени седем публикации в една заявка, но техните преглеждания варирали драстично: от 57 000 до над 150 000. Разликата се е дължала не на качеството на текста, а на броя на последователите, които даден акаунт имал.

Най-големият раздел се отнася до така наречените Cyber Special Operations, които според OpenAI са свързани с представител на китайските правоохранителни органи. Потребителят се е опитал да получи съдействие при планирането на кампания срещу японския премиер, но моделът е отказал. Същото лице по-късно е поискало редактиране на доклади за операциите. В документите се споменават стотици служители, хиляди фалшиви акаунти и десетки тактики – от масови публикации и тормоз до фалшифициране на документи и опити за дискредитиране на дисиденти в чужбина. Някои от описаните действия са били съпоставени с действителна интернет активност, но много от кампаниите не са постигнали значително обществено въздействие.

Основното заключение на доклада е прагматично. Езиковите модели рядко се превръщат в самостоятелни оръжия. Измамниците и организаторите на информационни операции използват такива инструменти, за да разширят съществуващите схеми. Резултатът е по-повлиян от инфраструктурата за разпространение, ресурсите и аудиториите, към които са насочени съобщенията, отколкото от самото използване на изкуствен интелект.