Експерти по киберсигурност от университета Макуори (Австралия) разработиха базирания на изкуствен интелект чатбот Apate, който е обучен да се представя за човек в разговор с телефонните измамници, като целта му е да задържи събеседника възможно най-дълго на линията.
Идеята за пускане на проекта идва, когато неговият ръководител професор Дали Кафар (Dali Kaafar) получава обаждане от телефонни измамници и ученият ги държи на линията 40 минути. Професорът решил, че този процес може да бъде автоматизиран с помощта на AI, свързвайки модели за обработка на естествения език и създавайки чатбот, който може да се представя за човек и да води телефонен разговор с измамника. Проектът е наречен Apate в чест на Апата — древногръцката богиня на лъжата и измамата.
Проектът се основава на езиков модел, подобен на ChatGPT, към който е свързана системата за гласово клониране. Apate беше обучен на текстове за реални взаимодействия с измамниците: на преписи на телефонни разговори, както и на кореспонденция по електронна поща и в социалните мрежи. Чатботът е тестван върху реални обаждания от измамници. За целта, учените са решили да ги провокират, като купили няколко телефонни номера, които започнали преднамерено да публикуват в съмнителни интернет сайтове.
Целта на проекта е да задържи събеседника на линията 40 минути без конкретен резултат — това е доста дълго време и голям брой такива разговори могат да разклатят “бизнес модела“ на престъпниците. Въпреки това, средното време за диалог с Apate е само 5 минути. В редица случаи AI изненада създателите си — той показа доста находчивост в нестандартни ситуации, когато измамници са поискали информация, която не е присъствала в обучаващите материали.
Самите представители на престъпния свят в момента активно внедряват AI, използвайки технологии за клониране на гласа и дийпфейк. Следователно, проектът Apate е вид симетричен отговор на усъвършенстваните решения от страна на измамниците. Учените предполагат, че подобни чатботове могат да бъдат внедрявани и от телефонните оператори.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
