Google представи детектор на генеративен ИИ за изображения – при търсене и други приложения

Google предприема нови стъпки в борбата срещу дезинформацията, като автоматично идентифицира изображенията, генерирани от ИИ. На събитието I/O тя представи нови функции, които ще бъдат добавени към нейната търсачка. Смята се, че тази функционалност ще помогне на хората да разберат по-добре “контекста“ на изображенията в резултатите от търсенето. Освен това, потребителите ще получат повече информация за изображението в специален раздел. Ще се появи и маркировката „генериран от ИИ“.

От компанията твърдят, че новите функции ще помогнат на хората бързо да оценят автентичността на изображението – независимо дали е истинско или създадено от ИИ. Самите тези инструменти обаче едва ли ще премахнат напълно проблема с дезинформацията, тъй като значителна част от изображенията ще бъдат показвани извън екосистемата на Google – на сайтове, където авторите могат да публикуват буквално всичко. Въпреки това, новата функционалност, която ще се появи през “следващите месеци“, ще предостави повече контекст в търсенето, свързано с определени “изображения“ – ще бъде достатъчно да отворите раздела “За това изображение“ (About this image).

По-конкретно, данните ще включват информация за това, кога изображенията са били индексирани за първи път от Google, къде изображението вероятно се е появило за първи път онлайн и къде другаде е било публикувано. По-специално, такива търсения могат да доведат до сайтове за проверка на фактите, които позволяват на потребителите да научат повече за изображението, чиято достоверност е поставена под съмнение. Google отбеляза, че 62% от анкетираните вярват, че се сблъскват с дезинформация на ежедневна или седмична база и компанията се надява да реши този проблем с раздела „За това изображение“.

Въпреки че Google прави всичко възможно да въведе технологията възможно най-рано, преди светът да бъде залят от изображения, генерирани от AI, чиято ненадеждност на пръв поглед не е очевидна, в мрежата вече се появиха много фалшиви снимки, като например – на Папа Франциск в пухено яке или Тръмп и Байдън, които си чатят приятелски. Такива технологии още днес могат да причинят сериозни щети на обществото.

За да изведе информацията за дадено изображение, потребителят ще трябва да кликне върху менюто с три точки в резултатите от търсенето на раздел „Изображения“ в търсачката на Google, и ще може да търси по изображение или скрийншот в Google Lens или просто да скролне нагоре по страницата с изображението, което представлява интерес за потребителя. По-късно тази година, информацията може да стане достъпна и чрез щракване с десен бутон върху компютър или продължително натискане върху изображение на смартфон (в мобилните или настолни версии на Chrome). Отначало обаче функцията ще бъде достъпна само в САЩ и само на английски.

Междувременно, генерираните от собствените инструменти на Google изображения, ще получат специална маркировка в изходния файл. Създателите и издателите на изображения също ще могат доброволно да добавят такива тагове към изображенията, генерирани от AI. След това, съответният таг ще се появи в търсачката на Google. От компанията казват, че някои платформи вече са готови да си сътрудничат в тази област – включително Midjourney, Shutterstock и други.

Google представи и други функции. Например, предстоящата поява на раздел в търсачката с некомерсиално съдържание, публикувано от реални хора.