Deepfake измами в Китай пораждат опасения за последствията от използването на ИИ

Неотдавнашна измама в Китай, при която е използвана технологията „deepfake“ породи опасения относно използването на изкуствен интелект за извършване на измамни дейности в страната. Дискусията в сайта на социалната медия Weibo за експлозията в броя на измамите с помощта на изкуствен интелект събра повече от 120 милиона гледания за един ден, съобщи Ройтерс.

През годините терминът „deepfake“ се свързваше предимно със знаменитости, но тъй като технологиите с ИИ стават все по-разпространени те предизвикват и опасения, че засягат обикновените хора. Неотдавна съветник в ООН предупреди срещу разрушителното използване на технологията и призова държавите да въведат правила за ефективна защита на обществото.

Измами с deepfake в Китай

В рамките на няколко дни след предупреждението на съветника на ООН в Северен Китай беше съобщено за измама с „deepfake“, при която жертвата не беше известна личност. Според докладите на полицията в Баотоу, регион във Вътрешна Монголия, мъж получил видео обаждане от свой приятел, в което последният спешно се нуждаел от пари, за да направи депозит в търг.

Първият веднага му превел 4,3 милиона юана (622 000 долара). Когато обаче се свързал с него, приятелят му обяснил, че никога не е отправял такава молба, което довело до откритието, че по време на видеоразговора е използвана технология за подмяна на лица, задвижвана от изкуствен интелект, за да се представи за него.

Полицията вече е възстановила по-голямата част от откраднатите средства, а в момента се полагат усилия за проследяване на останалите. Въпреки това дискусиите в социалната мрежа Weibo се разразиха, като хората изразиха загриженост относно заплахата за неприкосновеността на личния живот и онлайн сигурността от мощни технологии като ИИ.

Потребителите на социалната медия изразиха мнението си, че снимките, гласът и видеоклиповете са на разположение на измамниците, а правилата за информационна сигурност едва ли могат да се справят с техниките, които вече се използват днес.

Потребителите имаха предвид по-новите правила на Китай от януари тази година, насочени към по-строг контрол на приложенията и по-новите технологии. Според новоприетите правила съществуват по-строги ограничения за манипулиране на гласови и лицеви данни. Това явно обаче не е попречило измамниците да използват технологиите, за да измамят невинен човек.

Физически лица и дори големите корпорации са били подложени на лошия ефект на технологията за „deepfake“. Миналата година доклад на Центъра за оплаквания от престъпления в интернет към ФБР показа, че физически лица използват технологията, за да се представят за някой друг и да заемат работни позиции от разстояние.

Това е само началото на ерата на изкуствения интелект и все още не сме видели грозната му страна.