Водните знаци върху AI съдържанието се оказаха сравнително лесни за изтриване

Учени от Университета Мериленд (САЩ) публикуваха резултатите от проучване, според което водните знаци, въведени от платформите с изкуствен интелект по време на генериране на изображенията, могат да бъдат премахнати.

AI генераторите на изображения вече са публично достъпни и хората все повече ги използват, за да създават „снимки“ и дори видеоклипове на неща, които никога не са се случвали. Тези произведения могат да изглеждат като шега или с цел умишлено дезинформиране на останалите — важното е да са достатъчно правдоподобни, за да подведат човек. Властите предполагат, че разработчиците на AI-системи маркират такова съдържание, но на практика това се оказва не толкова просто.

Изследователите от Мерилендския университет се заеха да проучат ефективността на техниките за откриване на изображенията, генерирани с изкуствен интелект. Както се оказа, водните знаци, създадени по време на генериране на изображение, могат лесно да бъдат премахнати с помощта на дифузионно почистване или атака с подмяна на модела. Дифузионното почистване, което представлява добавяне на шум към изображението и след това премахването му, ви позволява да отстраните водните знаци, поставени с помощта на методи с ниско ниво на смущение като RivaGAN и WatermarkDM. За методи с високо ниво на смущения, като StegaStamp, се използва атака с подмяна на модела — тя принуждава системите, използвани за анализ на AI, да идентифицират генерираните изображения като настоящи.

Това е лоша новина за Alphabet, Amazon, Meta, Microsoft и OpenAI, всеки от които преди това обещаваше да разработи технологии за маркиране на съдържанието с изкуствен интелект за борба с дезинформацията. От друга страна, самата идея за маркиране на създадените от AI изображения, не предполага пълна защита срещу дезинформацията, тъй като не са видими за окото и е малко вероятно обикновеният интернет потребител да проверява всяко срещано изображение за автентичност. Това означава, че маркирането е полезно само в случаите, когато вече е възникнало съмнение.