Google Reimagine: Новият ИИ редактор, който създава изненадващо свръхреалистични изображения

Новият инструмент Reimagine на Google, вграден в телефоните Pixel 9, предизвика сериозни опасения заради способността му да създава смущаващи и дори шокиращи обекти в снимки. Тестовете показаха, че функцията може да се използва за добавяне на елементи като последици от пътнотранспортно произшествие, домове, разрушени в резултат на война или бедствие, и дори тела под окървавени чаршафи към снимки. Това повдига въпроси дали вградените в редактора предпазни мерки срещу злоупотреби са достатъчни.

Инструментът Reimagine е нова форма на Magic Editor, който позволява на потребителите да изтриват части от сцена или да променят осветлението на снимката. Новата функция обаче е отишла много по-далеч, като позволява на потребителите да генерират всеки обект в кадъра чрез текстово задание. Резултатите от тези манипулации могат да изглеждат много реалистично, което е изключително притеснително за експертите.

Журналистите от The Verge, тествали Reimagine на Pixel 9 и 9 Pro, установиха, че е възможно да се заобиколят някои от ограниченията, вградени в системата, като просто се изберат правилните думи. Това им позволи да създадат изображения, които например показват трупове или последици от експлозии. Според експерти подобни функции могат да бъдат използвани от хакерите за разпространение на фалшива информация.

Google твърди, че инструментите като Reimagine са предназначени за творческа употреба и компанията се стреми да ограничи създаването на обидно съдържание. Говорителят на Google Алекс Морикони заяви, че компанията активно работи за подобряване на защитните си механизми, но призна, че понякога тези механизми могат да бъдат заобиколени.

Особена загриженост буди липсата на очевидно обозначаване на такива изображения като създадени с помощта на изкуствен интелект. В някои случаи таговете, указващи редактиране от изкуствен интелект, могат лесно да бъдат премахнати, което затруднява разпознаването на фалшификатите. Google използва технологията SynthID, за да маркира изображенията, създадени изцяло от изкуствен интелект, но изображенията, редактирани чрез Magic Editor, не получават такова маркиране.

Хората и преди са редактирали снимки с цел създаване на фалшификати, но за това се изискваха умения и специализиран софтуер. Сега, благодарение на инструменти като Reimagine, е възможно да се създаде убедителен фалшификат само за няколко секунди, което увеличава риска от разпространение на дезинформация.

Липсата на надеждни начини за идентифициране на такива изображения увеличава опасенията за използването им за недобросъвестни цели. Докато преди създаването и разпространението на фалшиви снимки изискваше време и усилия, сега това става по-лесно и по-бързо, което повдига въпроса за необходимостта от нови подходи за проверка на автентичността на изображенията. Но така или иначе ИИ технологиите се развиват много бързо и някак изведнъж навлизат в ежедневния живот.