След като вчера стана ясно, че вграденият в ChatGPT генератор на изображения е плашещо добър в създаването на фалшиви касови бележки, днес потребител на LinkedIn демонстрира как фалшив паспорт, създаден с помощта на ChatGPT успешно преминава проверка на цифровата самоличност. Експериментът предизвика вълна от дискусии сред професионалистите в областта на информационните технологии и постави под въпрос значението на традиционните KYC (Know Your Customer) процедури за проверка на самоличността.
Технологичният предприемач и инвеститор в рисков капитал Борис Муселяк генерира фалшив паспорт само за няколко минути и публикува резултата в профилите си в LinkedIn и X. Генерираният документ беше толкова правдоподобен, че предизвика разгорещена дискусия за това доколко съвременните системи за проверка на самоличността са подготвени за атаки с генеративен изкуствен интелект.
Обикновено фалшификатите на документи с помощта на изкуствен интелект са лесни за откриване поради грешки във форматирането, лоша типография или нередности в структурата на текста. В случая на Муселяк обаче фалшификатът изглеждал почти идентичен с истински паспорт. Потребителите отбелязаха, че фалшифицирането на документи сега е много по-лесно и бързо, отколкото чрез традиционни инструменти като Adobe Photoshop.
Макар че създаденият паспорт вероятно няма да премине проверка поради липсата на вграден чип, той беше достатъчен, за да се заобиколят елементарните KYC процедури, използвани от някои финтех компании.
Например, услуги като Revolut или Binance се ограничават до искане на паспортна снимка и селфи на потребителя. При такива обстоятелства използването на дийпфейкове може да се превърне в ефективен инструмент за измамниците.
Муселяк подчерта, че рисковете от масова кражба на самоличност с цел получаване на кредити или регистриране на фалшиви банкови сметки са се увеличили значително. Използването на генеративен изкуствен интелект позволява на измамниците да мащабират атаките си, получавайки достъп до банкови, криптовалутни и други финансови системи.
В отговор на този проблем експертите предлагат по-активно прилагане на методи за проверка, основани на технологията NFC, както и на електронни документи за самоличност (eID). Такива методи включват проверка на данните на хардуерно ниво, което ги прави по-малко уязвими на генеративни атаки. Интересно е, че 16 часа след публикацията на Муселяк опитът за повторение на експеримента вече е неуспешен. ChatGPT отказа да генерира фалшив паспорт, като се позова на правилата за сигурност и забраната за създаване на фалшиви документи.
Ситуацията показва, че реакциите на потенциалните злоупотреби с генеративния ИИ се прилагат, макар и със закъснение. Въпреки това тази историята за пореден път показа колко бързо технологията може да се превърне в заплаха, ако не е придружена от строги механизми за контрол.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
