Можете ли да различите фалшиво изображение от истинско? Тест на Microsoft ще ви подложи на изпитание

Когато се появиха първите генератори на изображения с изкуствен интелект, дезинформацията веднага се превърна в основен проблем. Въпреки че многократното преглеждане на такива изображения може да изгради известна устойчивост, неотдавнашно проучване на Microsoft показва, че някои видове истински и фалшиви изображения все още могат да заблудят почти всеки.

Проучването установи, че хората могат точно да различат истинските изображения от тези, генерирани от AI в около 63% от случаите. За разлика от това, според съобщенията инструментът за откриване на AI, който е в процес на разработване от Microsoft, постига 95% успеваемост.

За да проучи по-подробно този въпрос, Microsoft създаде онлайн тест, включващ 15 произволно избрани изображения от библиотеки със стокови изображения и такива, генерирани от AI. В проучването са анализирани 287 000 изображения от 12 500 участници от цял свят.

Участниците са били най-успешни при разпознаването на изображения на хора, генерирани от AI с 65% точност. Въпреки това най-убедителните фалшиви изображения са били GAN дийпфейковете, които показват само лицеви профили или са използвали inpainting, за да вмъкнат елементи, генерирани от AI в реални снимки.

Въпреки че е една от най-старите форми на изображения, генерирани от изкуствен интелект, GAN дийпфейковете (Generative Adversarial Networks) все още заблуждават около 55% от зрителите. Това отчасти се дължи на факта, че те съдържат по-малко детайли, които генераторите на изображения обикновено се затрудняват да възпроизведат. По ирония на съдбата приликата им с нискокачествени снимки често ги прави по-достоверни.

Изследователите смятат, че нарастващата популярност на AI генераторите на изображения е направила зрителите по-запознати с прекалено гладката естетика, която тези инструменти често създават. Подканянето на изкуствения интелект да имитира автентична фотография може да помогне за намаляване на този ефект.

Някои потребители установиха, че включването на общи имена на файлове с изображения в подканите води до по-реалистични резултати. Въпреки това повечето от тези изображения все още приличат на полирани снимки със студийно качество, които могат да изглеждат неуместни в случайни или откровени контексти. За разлика от това, няколко примера от проучването на Microsoft показват, че Flux Pro AI може да възпроизвежда любителска фотография, като създава изображения, които изглеждат така, сякаш са направени с типична камера на смартфон.

Участниците са имали малко по-малък успех при идентифицирането на генерирани от AI изображения на природни или градски пейзажи, които не включват хора.

Например двете фалшиви изображения с най-ниска степен на идентифициране (21% и 23%) са били генерирани с помощта на подсказки, които включват реални снимки, за да направляват композицията. Най-убедителните изображения, генерирани от AI също така поддържаха нива на шум, яркост и ентропия, подобни на тези, които се срещат в реалните снимки.

Изненадващо, трите изображения с най-ниски нива на идентификация като цяло: 12%, 14% и 18%, всъщност бяха истински, които участниците погрешно определиха като фалшиви. И на трите бяха изобразени американски военни в необичайна обстановка с необичайно осветление, цветове и скорости на затвора.

От Microsoft отбелязват, че разбирането на това кои подкани е най-вероятно да заблудят зрителите може да направи бъдещата дезинформация още по-убедителна. Компанията изтъква проучването като напомняне за важността на ясното етикетиране на изображенията, генерирани от изкуствен интелект.