Операцията Peer Review: използването на ChatGPT за международен шпионаж

Кой стои зад опитите за превръщане на ИИ в оръжие за наблюдение и дезинформация?

OpenAI е блокирала редица акаунти, които са използвали ChatGPT за създаване на потенциално зловреден инструмент за наблюдение, базиран на ИИ. Според изследователите този инструмент за наблюдение на социалните мрежи вероятно е бил разработен в Китай и е използвал един от моделите Meta Llama.

Анализът показа, че блокираните акаунти са използвали възможностите на ChatGPT за генериране на подробни описания и анализ на документи, допринасяйки за създаването на система, която е събирала данни в реално време за протестите срещу Китай на Запад. След това информацията е била предавана на китайските власти. Кампанията е получила кодовото име Peer Review (партньорска проверка) заради системното популяризиране и тестване на технологиите за наблюдение.

В рамките на разследването OpenAI разкри използването на ChatGPT за отстраняване на грешки и модифициране на изходния код на системата, известна като „Qianyue Overseas Public Opinion AI Assistant“. Инструментът е анализирал публикации и коментари в платформи като X, Facebook, Instagram, YouTube, Telegram и Reddit, като е проследявал споменаването на протестните движения и други чувствителни теми.

Нападателите са използвали ChatGPT и за събиране на публични данни за американски мозъчни тръстове, за политическите фигури от Австралия, Камбоджа и САЩ, както и за превод и анализ на документи, съдържащи информация за уйгурските протести. Автентичността на някои от екранните снимки, качени в системата, остава под въпрос.

Освен това OpenAI разкрива и прекрати работата на няколко други мрежи, използващи ChatGPT за следните незаконни дейности:

• Измамна схема за наемане на работа. Група, свързана със Северна Корея, е използвала невронната мрежа, за да създава фалшиви автобиографии, профили и писма за наемане на работа като част от схема за измама на ИТ компании.
• Пропаганда в Латинска Америка. Китайска мрежа разпространява антиамерикански статии на английски и испански език, като ги публикува в сайтове в Перу, Мексико и Еквадор. Някои от дейностите съвпадат с известната по-рано кампания Spamouflage.
• Романтични измами. Свързана с Камбоджа група създава коментари на японски, китайски и английски език за инвестиционни и романтични измами.
• Проиранска пропаганда. Мрежа от пет акаунта публикува материали в подкрепа на Палестина, Хамас и Иран, като същевременно се противопоставя на САЩ и Израел. Някои акаунти обслужват няколко кампании едновременно.
• Киберпрестъпността в Северна Корея. Групите Kimsuky и BlueNoroff са използвали ChatGPT за проучване на средствата за атаки, свързани с криптовалутите, и за отстраняване на грешки в кода за RDP bruteforcing.
• Манипулиране на информацията в Гана. Мрежата е публикувала статии и коментари, оказващи влияние върху изборите в Гана, чрез англоезичния уеб сайт Empowering Ghana.
• Мошеничество при възлагането на задачи. Камбоджанска мрежа е примамвала хора към измамни задачи (напр. оценяване на лайковете и писане на ревюта срещу пари), като е изисквала предварително плащане за участие.

Инцидентът илюстрира, че изкуственият интелект отдавна е ефективен инструмент за провеждане на кибератаки, разпространение на дезинформация и манипулиране на общественото мнение. Неотдавнашен доклад на Google Threat Intelligence Group потвърди, че поне 57 групи, свързани с Китай, Иран и Северна Корея, вече използват изкуствен интелект при различните етапи на атаките, включително генериране на съдържание и анализ на информацията.

OpenAI подчертава, че съвместната работа между ИИ компаниите, социалните мрежи, доставчиците на хостинг услуги и изследователите спомага за откриването на заплахите и разработването на механизми за защита срещу злоупотреба с ИИ. Тази координация дава възможност за своевременно откриване на злонамерените участници и значително ограничава тяхното въздействие.