Дийпфейковете завладяват интернет: Microsoft предложи план за спасяване от тях

Microsoft е разработила набор от стандарти, предназначени да помогнат за оценяване на реалността на материалите, публикувани в интернет. Специалистите на компанията решиха да преценят доколко ефективни са методите за документиране на цифрови манипулации на съдържание, като например дийпфейкове и хиперреалистични изображения, създадени от изкуствен интелект – така се появиха технически стандарти, които разработчиците на изкуствен интелект и платформите за социални медии ще могат да използват.

Microsoft обясни схемата за проверка на материалите с примера на картина на Рембранд, чиято автентичност трябва да бъде потвърдена документално. Може да се проследи нейният произход, като се състави подробен списък на местата, от които е дошла, и всички случаи, в които е сменяла собственика си. Картината може да бъде сканирана, представена в цифров вид и въз основа на движенията на четката да се генерира математически подпис, подобен на пръстов отпечатък. Когато картината бъде изложена в музей, скептично настроеният посетител ще може да проучи тези материали и да се убеди, че това е оригинал.

Всички тези методи вече се използват в някаква степен за проверка на съдържанието в интернет – Microsoft оцени 60 различни комбинации от тези методи и моделира как всяка комбинация би се справила при различни сценарии – от просто премахване на метаданни до малки промени или умишлено манипулиране на съдържанието.

Изследователите на компанията определиха кои комбинации дават резултати, които са достатъчно надеждни, за да бъдат показани на широка аудитория, и кои са толкова ненадеждни, че могат да доведат до допълнително объркване, вместо до изясняване.

Необходимостта от проекта е продиктувана от множество законодателни инициативи, включително „Закона за прозрачност на AI“, който ще влезе в сила през август в Калифорния, САЩ. Microsoft обаче отказа да отговори дали самата компания ще приложи насоките към собствените си платформи. Тя притежава група от AI услуги, наречена Copilot, която може да генерира текст и изображения, облачна платформа, наречена Azure, в която се изпълняват AI модели и сериозен дял в AI разработчика OpenAI.

Трябва да се отбележи, че инструментите, предложени от Microsoft нямат за цел да определят истинността или невярността на самите материали, а само да покажат дали материалите са били манипулирани, т.е. да дадат представа за произхода на информацията. Ако индустрията възприеме тези инструменти, ще стане много по-трудно да се заблуждава обществеността с фалшифицирано съдържание, смятат експертите.

През 2021 година Microsoft предложи стандарта C2PA, предназначен за проследяване на произхода на съдържанието. През 2023 година Google започна да добавя воден знак към съдържанието, генерирано от изкуствен интелект. Пълният набор от инструменти, който Microsoft обаче предлага сега рискува да остане само предложение, ако търговците го възприемат като заплаха за своите бизнес модели.

Съществуващите инструменти невинаги са надеждни: проучването установи, че само 30% от тестовите публикации в Instagram, LinkedIn, Pinterest, TikTok и YouTube са били правилно маркирани като създадени от изкуствен интелект. Ето защо ускореното внедряване на определени инструменти за проверка на съдържанието е рисковано – ако те започнат да се провалят, хората просто ще спрат да им се доверяват. Сложните механизми за проверка изглежда са по-надеждни. Например, ако подложите валидно изображение само на незначителна редакция от AI, платформите може да започнат да реагират на него така, сякаш е генерирано от AI от нулата – вероятността от цялостна проверка да доведе до фалшиви положителни резултати е по-малка.