Сам Алтман предупреждава, че измамниците скоро ще започнат масово да крадат пари, като фалшифицират самоличности с помощта на ИИ

Създателите на системи с изкуствен интелект са загрижени за проблема с незаконното им използване, а ръководителят на OpenAI Сам Алтман не е изключение. По време на разговора си със заместник-председателя на Федералния резерв на САЩ Мишел Боуман, той заяви, че скоро ще бъдем залети от висококачествени фалшификати не само на гласа, но и на външния вид на всеки човек, които могат да бъдат използвани за незаконни цели.

Като пример, Алтман посочва процедурата за удостоверяване на клиент на банка с помощта на глас и кодова фраза. Познавайки последната, за нападателите няма да е трудно да имитират гласа на човека, използвайки ИИ системите и след това да дадат нареждане за прехвърляне на средства без знанието на истинския им собственик. „Изкуственият интелект е усвоил напълно всички методи за удостоверяване, които хората използват в момента, с изключение на паролите. Сега това може да бъде гласово повикване, скоро ще бъде видео или видеообаждане, които ще бъдат неразличими от истинските“ — обясни опасенията си Сам Алтман.

Гласовото фалшифициране отдавна се използва от измамниците, за да манипулират жертвите си, изкуственият интелект просто им предоставя по-опростен и ефективен инструмент, който е достъпен буквално за всички. Видео разговорите, при които се имитира желаното изображение, но съдържанието на разговора се заменя, също постепенно се усвояват. Известни личности, включително политици и чиновници, вече стават жертва на подобни престъпления.

OpenAI е направил малко, за да предотврати подобни злоупотреби, въпреки че се опитва да разработи по-надеждни методи за биометрично удостоверяване. Така или иначе, Алтман е убеден, че измамниците скоро ще разполагат със софтуерни инструменти, които могат масово да произвеждат измами със самоличност.