Новият генератор на изображения в ChatGPT е плашещо добър във фалшифицирането на касови бележки

Новата версия на ChatGPT, задвижвана от големия езиков модел 4o разполага с подобрен генератор на изображения, който може да създава изображения, които изглеждат все по-достоверно. Потребителите вече активно тестват функциите и резултатите са тревожни: генераторът се е научил да фалшифицира касови бележки толкова реалистично, че измамниците вече се интересуват от този инструмент.

Един от потребителите на социалната мрежа X пръв обърна внимание на това, като публикува снимка на касова бележка от ресторант в Сан Франциско. Всъщност изображението се оказа създадено от на ChatGPT. Други потребители лесно повториха резултата, а някои дори добавиха петна от храна и напитки към „хартията“, засилвайки илюзията за реалност.

Най-убедителният образец беше изображение на смачкана касова бележка от френски ресторант, която изглеждаше толкова естествено, че беше възможно да се разпознае, че е фалшива само при внимателно разглеждане.

Служители на изданието TechCrunch също проведоха тест и генерираха касова бележка от името на популярна американска мрежа. И макар че при по-внимателно разглеждане бяха открити грешки като неправилни препинателни знаци или аритметични действия, които не се сумират, тези детайли могат лесно да бъдат коригирани ръчно или чрез точно формулиране на заявка.

Проблемът е колко лесно е станало създаването на фалшификати, които потенциално могат да се използват за финансови измами – например фалшифициране на разходи, за да се получи възстановяване на разходи.

В същото време новата технология предоставя възможност за бързо генериране на десетки варианти, като ги адаптира към нуждите на измамниците.

От OpenAI твърдят, че всички изображения, създадени в ChatGPT са придружени от специални метаданни, указващи изкуствения им произход. Говорител на компанията обясни, че OpenAI предприема мерки в случай на нарушения на правилата за използване и се опитва да подобри модела, като взема предвид различни случаи. Въпреки това въпросът остава открит – защо системата изобщо позволява генерирането на изображения, които очевидно са предназначени за фалшифициране на финансови документи?

Говорител на компанията отговори, че целта на OpenAI остава да предостави максимална творческа свобода на потребителите. Според служителя фалшивите касови бележки могат да се използват за образователни цели (например, за преподаване на финансова грамотност) както и за създаване на реклами или художествени проекти. Ясно е обаче, че границата между творческото приложение и измамата става все по-тънка.

Тъй като изкуственият интелект все по-често се използва за подправяне на видео, аудио и документи, друг инструмент, който може да генерира почти реални касови бележки с едно кликване на бутона рискува да стане популярен сред измамниците. Развитието на подобни технологии изисква не само технически контрол, но и преразглеждане на политиките за допускане и филтриране на съдържанието.