Разработена е AI система за генериране на гласови дийпфейкове в реално време – измамниците със сигурност ще я използват

NCC Group, компания, специализирана в технологии за киберсигурност създаде метод за пресъздаване на гласа на всеки човек в реално време, базиран на изкуствен интелект. Системата е изградена на базата на публично достъпни софтуерни решения и публично достъпен хардуер.

Инструментът за създаване на гласови дийпфейкове в реално време след обучение се активира само с едно натискане на бутон – той се управлява чрез уеб интерфейс, а потенциалният нападател може да се представи за всеки.

Качеството на входния сигнал може да бъде и ниско – гласовият изход все пак звучи убедително, а забавянето е пренебрежимо малко. Това означава, че това решение може да се използва дори с микрофони, вградени в лаптопи и смартфони. Работата в реално време е важно предимство.

Съществуващите технологии за подправяне на глас извеждат звуков файл. Това означава, че нападателят трябва предварително да запише репликите, но потенциалната жертва може лесно да разкрие схемата, ако разговорът се отклонява от очаквания сценарий, а ако измамникът се опитва да генерира дийпфейк в движение, той ще бъде издаден от забавянето на разговора. Инженерите на NCC Group тестваха технологията си върху собствените си клиенти (с тяхно разрешение, разбира се) и те не успяха да разпознаят измамата.

Софтуерната част на решението използва инструменти с отворен код, а за ефективната работа на хардуерната част е желателно да се използват мощни видеокарти, но дори лаптоп с една от най-непроизводителните в настоящата линия Nvidia RTX A1000 даваше забавяне от само половин секунда.

За щастие видео дийпфейковете все още не работят в реално време. В момента големите социални мрежи, включително TikTok, YouTube и Instagram са залети от поредната вълна видеодипкейкове, които се създават с помощта на два инструмента: Google Gemini Flash 2.5 Image Generator (известен още като Nano Banana) и Alibaba WAN 2.2 Animate Open Video Generator – те позволяват да добавите към видеото произволен човек. Слабото място на дийпфейковете с видео все още е липсата на съгласуваност между картината и звука – израженията на лицето невинаги съответстват на интонациите и ако човекът уж е развълнуван, но лицето му остава спокойно – това вероятно е фалшификат. Новите решения обаче ни карат да се замислим за необходимостта от подобряване на средствата за защита: методите за удостоверяване на автентичността вече не трябва да разчитат на гласови и видеоразговори, предупреждават експертите.