Разработиха система за защита на гласа от създаване на дийпфейк

Технологиите за фалшифициране на глас, използващи изкуствен интелект, са доста опасен инструмент — те са способни правдоподобно да възпроизведат човешки глас, дори и от кратък образец. AntiFake алгоритъмът, предложен от американски учен, може да предотврати създаването на изкусен фалшификат.

Дийпфейк е доста опасно явление — може да бъде използван, за да се припише изявление на известен артист или политик, което той никога не е правил. Имаше и прецеденти, при които нападателят се обажда на жертвата и с гласа на неин приятел поиска спешно да преведе пари във връзка с някаква извънредна ситуация. Нин Джан (Ning Zhang), асистент професор по компютърни науки и инженерство във Вашингтонския университет в Сейнт Луис, предложи технология, която прави много по-трудно създаването на гласови дийпфейкове.

Принципът на действие на AntiFake алгоритъма е да създаде условия, при които става много по-трудно за AI системата да чете ключовите характеристики на гласа, когато записва разговор на реален човек. „Инструментът използва противникова AI-техника, която първоначално е била използвана от киберпрестъпниците, но сега я обърнахме срещу тях. Ние леко изкривяваме записания аудио-сигнал, създавайки смущения точно толкова, че за човека да звучи идентично, но за AI да се чува напълно различно“ — коментира проекта си г-н Джан.

Това означава, че ако се опитате да създадете дийпфейк въз основа на модифициран по този начин запис, генерираният от AI-глас няма да бъде подобен на този на човека в образеца. Тестовете показват, че AntiFake алгоритъмът е 95% ефективен при предотвратяването на синтеза на убедителни дълбоки дийпфейкове. „Не знам какво ще се случи по-нататък с гласовите AI-технологии — непрекъснато се разработват нови инструменти и функции — но все още вярвам, че нашата стратегия за използване на технологията на врага срещу самия него ще остане ефективна“ — заключи авторът на проекта.