Какво се случва с Facebook? Социалните мрежи на Meta са потънали във фейкове, а истинските снимки се обозначават като генерирани от ИИ

Вероятно напоследък сте попадали на публикации във Facebook с молба да ги подкрепите, като ги харесате, а ако сте запознати с изкуството на невронните мрежи, лесно бихте разпознали фейк снимките. Десетки хиляди потребители обаче наистина вярват в реалността на снимката, популяризирайки неизвестни досега групи с техните лайкове.

Този фейсбук е развален, донесете следващия

Ето един пример и както можете да видите има знак на снимката, но той не е от Фейсбук и е толкова малък, че едва ли ще хване окото на някого:

За хората, запознати с изкуството на невронните мрежи, изображенията очевидно са ИИ-генерирани. Въпреки това, за хилядите потребители на Facebook, които са харесали или публикували поста, снимките изглеждат истински.

Въпреки че Facebook в крайна сметка е успял да маркира публикацията като нереална, в рамките на две седмици тя е натрупала стотици харесвания и коментари и хиляди споделяния.

Как реагира Meta?

През февруари Meta обяви, че ще започне да добавя етикети „Made with AI“ към снимките, качени във Facebook, Instagram и Threads, но както виждаме от предишните примери, нещо се е объркало.

Освен това Meta инструментите, игнорирайки генерираното съдържание, погрешно маркират реалните снимки с AI таг. Като тази снимка от турнир по крикет от индийската Висша лига в Instagram:

Meta също така наскоро отбеляза снимка на баскетболен мач, направена от бившия фотограф на Белия дом Пийт Соуза, като създадена от AI (между другото таговете се виждат само в мобилните версии на приложенията). Самият Соуза каза, че се е опитал да премахне маркера, но не е успял.

Според PetaPixel, алгоритмите на Instagram могат да маркират генерираните изображения, когато фотографите използват генеративни AI инструменти като Generative Fill на Adobe, за да премахнат дори най-малките обекти. Изданието тества това за себе си, използвайки инструмента Generative Fill на Photoshop, за да премахне елемент ​​от изображение, което Meta след това маркира като генерирано от AI в Instagram. Странно, тагът „Създадено с AI“ не беше добавен, когато PetaPixel зареди файла обратно във Photoshop и след това го запази, след като го копира и постави в черновата на документа.

Процесът на идентифициране на AI в Instagram и Facebook изглежда работи по различен начин, но и двата са погрешни. Като се има предвид, че Meta отдавна има проблеми с модерирането на съдържанието, които не са решили, подобна ситуация може да възникне и с изкуствения интелект. Експертите съветват просто да не бъдем мързеливи и да отделим време за кратка образователна програма за разпознаване на фейк или изкуствено създаденото съдържание.