Google откри три вируса, които тайно се свързват с изкуствен интелект, за да подобрят атаките

Специализираното в разпознаването на киберзаплахите подразделение Google Threat Intelligence Group (GTIG) съобщи за ново поколение зловреден софтуер, който се свързва дистанционно с генеративни модели на изкуствен интелект, за да подобри ефективността на атаките. Външен изследовател обаче отхвърли заплахата като преувеличена.

Първата схема за атака, наречена Quietvault, е зловреден софтуер, предназначен да открадне идентификационни данни от Windows компютрите. Той изпраща „заявка до AI енджин и, използвайки локални инструменти от командния ред, търси възможни секретни данни в заразената система и извлича тези файлове“ — обясни компанията, без да предоставя допълнителни подробности.

Вторият зловреден софтуер, Promptflux, се смята за експериментален хакерски проект – той осъществява отдалечен достъп до чатбота Google Gemini, за да модифицира собствения си компютърен код и да избегне антивирусното откриване. По-конкретно, беше открита заявка, която Promptflux изпраща до Gemini чрез Google API: „Напишете малка самостоятелна VBScript функция или блок от код, способен да избегне антивирусното откриване.“

На практика, експертите на Google твърдят, че този зловреден софтуер все още не е успял да причини щети нито на потребителски устройства, нито на мрежови ресурси. Освен това, компанията е модифицирала оперативните механизми на Gemini, така че нейният изкуствен интелект да отхвърля подобни заявки. Маркъс Хътчинс, експерт, участвал в неутрализирането на рансъмуер вируса WannaCry през 2017 г., изрази съмнение относно ефективността на Promptflux. „[Заявката] не уточнява какво трябва да прави фрагментът от код или как ще избегне антивирусния софтуер. Просто е изпратена с предположението, че Gemini инстинктивно знае как да заблуди антивирусния софтуер (което не знае)“ — пише той.

Третият зловреден софтуер, базиран на изкуствен интелект, наречен Promptsteal, се свързва с големия езиков модел Qwen на Alibaba, за да краде данни. Promptsteal работи като троянски кон, маскиран във вид на генератор на изображения. При стартиране той осъществява достъп до изкуствен интелект, за да генерира код, насочен към извличане на данни – самият зловреден софтуер не съдържа такъв код; кодът се изпълнява “сляпо“, докато информацията бъде открадната. Експертите подозират, че Promptflux е разработен от киберпрестъпници, търсещи финансова облага, докато Promptsteal е свързан с една от правителствените хакерски групировки.