Microsoft разби хакерска банда, която е заставила AI да нарисува неподходящи фейкове със знаменитости

Microsoft заяви, че е открила хакери в САЩ и чужбина, които са заобикаляли ограниченията на генеративните AI-инструменти, включително и услугите на OpenAI в облака Azure, за да създават злонамерено съдържание, включително и интимни изображения на знаменитости и друго сексуално открито съдържание. Според компанията в тази дейност са участвали хакери от САЩ, Иран, Великобритания, Хонконг и Виетнам.

В съобщението се казва, че нападателите са извличали логини на потребители на услугите за генеративен ИИ от отворени източници и са ги използвали за свои собствени цели. След като получат достъп до AI-услугата, хакерите заобикалят ограниченията, зададени от разработчиците, и продават достъпа до тези ИИ-услуги заедно с инструкции как да създават злонамерено съдържание.

Microsoft вярва, че всички идентифицирани хакери са членове на глобална киберпрестъпна мрежа, която компанията нарича Storm-2139. Двама от тях се намират във Флорида и Илинойс, но компанията не разкрива самоличността им, за да избегне компрометиране на криминалното разследване. Софтуерният гигант заяви, че подготвя съответните искания до правоприлагащите органи в САЩ и редица други страни.

Ходовете на Microsoft идват на фона на нарастващата популярност на генеративните невронни мрежи и опасенията, че изкуственият интелект може да се използва за създаване на фалшиви изображения на публични личности и обикновени граждани. Компании като Microsoft и OpenAI забраняват генерирането на такова съдържание и съответно ограничават своите AI-услуги. Въпреки това, хакерите все още се опитват да заобиколят тези ограничения и често успяват.

„Ние приемаме злоупотребата с изкуствения интелект много отговорно и осъзнаваме сериозните и дългосрочни последици от злоупотребата с изображения за потенциалните жертви. „Microsoft остава ангажирана със защитата на потребителите чрез внедряване на стабилни брандове за сигурност на AI в нашите платформи и защита на нашите услуги от незаконно и злонамерено съдържание“ — казва Стивън Масада, помощник главен юрисконсулт на подразделението за киберпрестъпления на Microsoft.

Microsoft заведе съдебно дело през декември в Източния окръг на Вирджиния срещу 10 неидентифицирани лица в опит да събере повече информация за хакерската група и да спре дейността й. Решението на съда позволи на Microsoft да поеме контрола върху един от основните сайтове на хакерите. Това и публикуването на поредица от съдебни документи миналия месец посяха паника сред престъпниците, потенциално разкривайки самоличността на някои от членовете на групата.