Изследователи откриха нов начин за намиране на фалшиви изображения, създадени от изкуствен интелект, използвайки техники в астрономията. Тези техники, които обикновено се използват за изследване на далечни галактики, позволяват на астрономите да измерват как очите на човек отразяват светлината, което прави възможно откриването на фалшивите фотографии.
„Това не е панацея, защото можем да имаме фалшиви положителни и фалшиви отрицателни резултати“ — казва Кевин Пимбълт, директор на Центъра за върхови постижения в областта на науката за данните, изкуствения интелект и моделирането в университета Хъл, Обединеното кралство. Ученият е представил това изследване на Националната астрономическа среща на Кралското астрономическо дружество на Великобритания на 15 юли 2024 г.
„Но това изследване предлага важен метод, който може да стане част от арсенала от тестове за определяне дали едно изображение е истинско или фалшиво“ — коментира ученият.
Фалшивите изображения
Прогресът в областта на изкуствения интелект направи все по-трудно разграничаването на истинските изображения, видеоклипове и аудио от тези, генерирани от алгоритмите. Дийпфейк замества функциите на един човек с други, което прави така, че хората да извършват или казват неща, които всъщност изобщо не правят. Учените предупреждават, че технологията може да се използва за разпространение на дезинформация, например по време на избори.
Реалните снимки трябва да имат „последователна физика“, обяснява Пимбълт, „така че отраженията в лявата очна ябълка трябва да са подобни на отраженията в дясната очна ябълка.“ Разликите могат да бъдат фини, така че изследователите използват техники за анализ на светлината, разработени за астрономическите снимки.
Изследването, което все още не е публикувано, е в основата на магистърската теза на Адеджумок Оволаби. Това е учен по данни в Университета на Хъл, който използва реални изображения от набора от данни Flickr-Faces-HQ и създава фалшиви лица с помощта на генератор на изображения. След това той анализира отраженията на светлината в очите в тези изображения, използвайки два астрономически метода: системата CAS и индекса на Джини. Системата CAS измерва концентрацията, асиметрията и плавността на разпределението на светлината, докато индексът Джини оценява неравенството в разпределението на светлината.
Сравнявайки отраженията в очите на хората, Оволаби може правилно да определи дали изображението е фалшиво в около 70% от случаите. В крайна сметка изследователите са установили, че индексът Джини е по-точен от системата CAS за идентифициране на фалшификатите.
Астрофизикът Брант Робъртсън от Калифорнийския университет в Санта Круз похвали проучването, но предупреди, че „ако можете да изчислите показател, който определя колко реалистично е дийпфейк изображението, можете също да обучите AI-модел да създава още по-добри дийпфейк изображения, като го оптимизирате по тази метрика.„
Чжиу Хуан, изследовател на AI в Университета на Саутхемптън, отбеляза, че собственото му изследване не е открило противоречиви светлинни модели в очите на дийпфейк изображения. Той обаче добавя: „Откриването на несъответствия във физическите свойства на светлината може да допълни съществуващите методи и да подобри цялостната точност на откриването на дийпфейк.“
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
