Дийпфейковете вече почти са неразличими от реалността и положението само ще се влошава

До 2025 г. качеството на дийпфейковете – създадени с помощта на изкуствен интелект медия файлове – се е подобрило значително. Лицата, гласовете и движенията на тялото, генерирани от изкуствения интелект за имитиране на реални хора, надминаха очакванията на много експерти; тези материали все по-често се използват за заблуда на хората, предупреждава Gizmodo.

В много ежедневни ситуации, независимо дали става въпрос за видео разговори с ниска резолюция или медийно съдържание в социалните мрежи, качеството на дийпфейковете, задвижвани от изкуствен интелект, вече е достатъчно високо, за да заблудят обикновените хора, които не са експерти. Ръстът на дийпфейковете не се ограничава само до качеството: през 2023 г. е имало 500 000 такива материали, а до края на 2025 г. ще има около 8 милиона, според DeepStrike, с темп на растеж от около 900% годишно.

Няколко технически пробива допринесоха за драматичното увеличение на производителността. Първо, генерираните от изкуствен интелект кадри се характеризират с времева последователност: хората в кадъра се движат реалистично, лесно са разпознаваеми и съдържанието на видеото остава смислено във всеки кадър. Моделите разделят информацията, свързана с представянето на самоличността на човек — от информацията, свързана с движението: едно и също движение може да бъде свързано с различни самоличности, а една и съща самоличност – с множество видове движения. Изображенията на лицата не трептят, не се изкривяват и не показват деформациите, които преди това бяха ясен знак за дийпфейк.

Второ, качеството на клонирането на гласа вече е надминало конвенционалния праг на неразличимост. Няколко секунди са достатъчни, за да се създаде убедителна имитация на глас – клонингът ще има естествена интонация, ритъм, акцент, емоция, паузи и дори дихателни звуци. Това предоставя широки възможности за мащабна измама. Субективните сигнали, които преди това издаваха синтетичните гласове, до голяма степен са изчезнали.

Трето, техническата бариера пред използването на генератори на съдържание е намалена до почти нула. С OpenAI Sora 2 и Google Veo 3, както и моделите от някои стартъп компании, всеки може да формулира идея, да създаде подробен скрипт, използвайки OpenAI ChatGPT или Google Gemini, и да генерира висококачествено съдържание за минути. Целият процес може да бъде автоматизиран с помощта на AI-агенти. В резултат на това, възможността за създаване на съгласувани дийпфейкове с наративи в голям мащаб вече е демократизирана.

2

Откриването на неразличимите от реалните хора дийпфейкове в социалните медии става все по-трудно, особено след като вниманието на потребителите в тези платформи вече е фрагментирано, а материалите се разпространяват по-бързо, отколкото могат да бъдат проверени. Дийпфейковете се използват за дезинформация, тормоз и финансови измами, оставяйки хората в неведение за случващото се.

Траекторията за следващата година изглежда ясна: дийпфейковете се насочват към генериране на съдържание в реално време. Видеата точно имитират нюансите на външния вид на човек и са способни да избягват системите за откриване. Границата се измества от статичен визуален реализъм към постоянство във времето и поведението — съдържанието ще се появява в реално време и предварително рендираните клипове вече няма да са достатъчни. Резултатът ще надхвърли простото човешко разпознаване —- персонажите във видеоклиповете ще се държат като реалните си еквиваленти. Участниците във видео разговорите ще бъдат синтезирани в реално време – техните лица, гласове и маниери ще се адаптират мигновено към заявките и вместо записани видеоклипове, измамниците ще показват на жертвите си тези ИИ-аватари.

Субективното възприятие вече няма да помага на хората да се предпазят от подобни дийпфейкове; ще са необходими технически мерки за защита, като например криптографски подписи на автентичните материали и маркировка на средствата за ИИ-редактиране. Внимателното проучване на изображението на ниво пиксел може вече да не е достатъчно.