Измамници използват изкуствен интелект за генериране на глас, за да мамят хора за пари

Едно от големите опасения, че ИИ може да пресъздаде перфектно гласа на човек е потенциалът му за измами. През последните няколко месеца този вид технологии отбелязаха огромен напредък и, което не е изненадващо, с тях злоупотребяват престъпници, които могат да подменят гласа, за да убедят семейството на собственика, че лицето се нуждае от финансова помощ.

Вестник „Washington Post“ съобщава, че канадска двойка на 70 години наскоро е получила телефонно обаждане от човек, който е приличал на внука им и е твърдял, че е в затвора и се нуждае от пари за освобождаване под гаранция. Те изтеглили 3000 канадски долара от една банка и се готвели да изтеглят същата сума от друга, когато мениджърът им казал, че са измамени. Оказало се, че друг клиент е получил подобно обаждане и научил, че то е фалшиво.

Друга двойка, която нямала такъв късмет, били родителите на Бенджамин Перкин. Те получили обаждане от адвокат, който казал, че синът им е убил американски дипломат при автомобилна катастрофа, а Перкин е в затвора и се нуждае от пари за съдебни такси. Адвокатът дал телефона на Перкин, който казал, че ги обича и е благодарен за парите.

Гласът звучал „достатъчно близко, за да могат родителите ми наистина да повярват, че наистина говорят с мен“, казва Пъркин. Родителите му изпратили 15 449 долара на измамника чрез биткойн терминал и не са успели да си ги върнат.

Гласовите измами не са нещо ново. Данните на Федералната търговска комисия в САЩ разкриват, че от 36 000 сигнала през миналата година за хора, измамени от престъпници, представящи се за приятели или роднини, над 5100 от тези инциденти са станали по телефона.

В миналото фалшифицирането на гласа на даден човек беше сложна и продължителна процедура, включваща откриването и събирането на часове аудиозаписи, а крайният резултат не винаги беше много убедителен. Сега обаче инструментите на изкуствения интелект направиха процеса толкова лесен, че измамниците се нуждаят само от малък клип на говорещ човек, често събран от профил в социална медия, за да пресъздадат точно гласа му.

Пример за тази технология е инструментът Vall-E на Microsoft, който компанията обяви през януари. Надграждайки върху технология, наречена EnCodec, която Meta обяви през октомври 2022 година, той работи, като анализира гласа на даден човек, разделя информацията на компоненти и използва обучението си, за да синтезира как би звучал гласът, ако говореше различни фрази. Дори след като чуе само трисекунден образец, Vall-E може да възпроизведе тембъра и емоционалния тон на говорещия. Вижте колко страховито убедително е това на тази страница в GitHub.

ElevenLabs, която предлага инструмент за генериране на глас с изкуствен интелект, наскоро написа в Twitter, че наблюдава „все повече случаи на злоупотреба с клониране на глас“. Това доведе до премахване на възможността за клониране на глас от безплатната версия на програмата VoiceLab.