Фалшивите лица, генерирани от AI вече са „твърде добри“, предупреждават изследователи

Способността на AI модели създават убедителни изображения, подобни на човешки образи е стигнала твърде далеч. Ново проучване показва, че разпознаването на лица, генерирани от изкуствен интелект вече е твърде трудно за повечето хора. Още по-обезпокоителното е, че така наречените „супер разпознавачи“ се справят само малко по-добре. Визуалните улики, които някога разкриваха изображенията, генерирани от изкуствен интелект стават все по-трудни за забелязване, въпреки че не са изчезнали напълно.

Смятате, че можете бързо да разпознавате фалшиви лица, генерирани от AI? Помислете отново. Според наскоро публикувано проучване на австралийски изследователи лицата, генерирани от AI вече по същество са твърде трудни за откриване – с изключение на малко малцинство от хора, които са изключително опитни в анализа на лицевите черти. В резултат на това може да пострадат процесите на сигурност и проверка на самоличността, въпреки че все още има стъпки, които можем да предприемем, за да смекчим проблема.

Проучването е проведено от изследователи от UNSW Сидни и Австралийския национален университет (ANU) и вече е публикувано в British Journal of Psychology. Екипът предупреждава, че „синтетичните лица, генерирани от изкуствен интелект“ могат да изглеждат по-реалистични от снимките на действителни хора – и техните данни подкрепят това заключение.

Двата австралийски университета са поканили 125 участници, включително 36 „супер разпознавачи“, известни с изключителните си способности за разпознаване на лица. Контролната група се състоеше от 89 участници. Изследователите помолили всички тях да попълнят онлайн тест, в който им били показани серии от генерирани от изкуствен интелект и истински човешки лица.

Резултатите показаха, че хората със средни умения за разпознаване са се представили само малко по-добре от случайните участници. Дори групата със „супер разпознавачи“ се е представила по-добре от средните участници само с малка разлика. Въпреки това всички участници са били еднакво самоуверени във възприеманата от тях способност да разпознават изображения, генерирани от AI.

Съвременните лица, генерирани от изкуствен интелект могат да изглеждат изключително реалистични, като не показват нито един от очевидните визуални артефакти, създавани от по-ранните AI модели.

Тези видове грешки вече се срещат много по-рядко, което прави AI генерираните лица по-ефективни в заблуждаването на потребителите. В резултат на това изследователите предупреждават, че опасна комбинация от прекомерна увереност и все по-убедителни дийпфейкове може да изложи на риск отделни лица и организации. Измамниците, мошениците и киберпрестъпниците вероятно вече използват това за незаконни дейности.

Тестът за разпознаване на лица на UNSW е достъпен онлайн с безплатна демо версия, която позволява на всеки да оцени собствените си умения.