Милиони хора вече използват ИИ ботове за разголване в Telegram

В началото на 2020 г. експертът по дийпфейк Хенри Айдер разкри един от първите ботове в Telegram, създадени да „събличат“ снимки на жени, използвайки изкуствен интелект. По това време, спомня си Айдер, ботът е генерирал повече от 100 000 такива снимки. 

Оттогава дийпфейковете стават все по-разпространени, по-вредни и по-лесни за производство.

Сега WIRED идентифицира най-малко 50 бота, които твърдят, че създават такива снимки или видеоклипове на хора само с няколко кликвания. Ботовете се различават по възможности — някои рекламират, че могат да „премахват дрехи“ от снимки, докато други твърдят, че създават изображения, изобразяващи хора в различни нецензурирани действия. Общият брой месечни потребители на тези ботове надвишава 4 милиона, като най-големите от тях привличат стотици хиляди потребители всеки.

Тези констатации илюстрират колко широко разпространени са станали инструментите за създаване на дийпфейк, утвърждавайки Telegram като основна платформа за такива ботове. Въпреки това, тази моментна снимка, обхващаща предимно англоезични ботове, вероятно представлява само малка част от общия им брой.

Дийпфейк съдържанието без съгласие често се квалифицира като злоупотреба с интимни изображения и представлява сериозен проблем. Множество уебсайтове за „разголване“ и „събличане“ са достъпни онлайн, а Telegram и като цяло интернет са пълни с по-сложни инструменти и ботове, които се използват за тормоз над жени и момичета по целия свят. Жертва на такива атаки са ставали много жени, от високопоставени личности като министър-председателя на Италия до обикновени ученички в Южна Корея.

В скорошно проучване се съобщава, че 40 процента от американските ученици са били наясно с дийпфейкове, свързани с техните гимназии през последната година. 

Ботовете, идентифицирани от WIRED, се поддържат от поне 25 Telegram канала с общо над 3 милиона абонати.

Тези канали действат като информационни хъбове, където хората получават известия за нови функции на ботовете и специални оферти за „жетони“, които могат да бъдат закупени за създаване на изображения.

След като WIRED се свърза с Telegram, платформата изтри 75-те бота и канала, идентифицирани в разследването. Въпреки това, някои собственици на канали публикуваха, че ще създадат нови ботове веднага след премахването на старите.

Това показва мащаба и устойчивостта на проблема.

Поради вредното естество на дийпфейк инструментите, WIRED не тества ботовете и не разкрива конкретни имена на ботове или канали. Въпреки милионите месечни потребители, остава неясно колко изображения са генерирани с тяхна помощ, тъй като потребителите могат да бъдат активни в множество канали и ботове, създавайки различно количество съдържание.

Екосистемата около дийпфейк съдържанието се разраства през последните години, превръщайки се в потенциално доходоносен бизнес за създателите на тези ботове, уебсайтове и приложения.