Езиковия модел с отворен код на Meta се използва за създаване на „сексботове“

Когато през февруари екипът за фундаментални изследвания на изкуствения интелект (FAIR) на Meta пусна на пазара своя голям езиков модел – Large Language Model Meta AI (LLaMA), технологичната компания имаше ясна представа за какво ще се използва той.

Главният изпълнителен директор Марк Зукърбърг тогава дори заяви, че моделът с отворен код ще бъде достъпен за изследователите и ще помогне на учените и инженерите, докато изследват потенциалните приложения на ИИ.

Едва ли екипът е знаел, че анонимни разработчици ще използват модела онлайн, за да създават графични „сексботове“.

LLaMA на Meta се използва за направата на сексботове

Тъй като LLaMA е модел с отворен код, всеки може да го обучи, за да изгради генеративни системи с ИИ, като например системи за писане, изследване, чатботове и дори сексботове.

The Washington Post разговаря със създателя на един такъв сексбот, наречен Allie. Чатботът е създаден от разработчик, който е избрал да остане анонимен.

По подобен начин по-рано през май съобщихме за 23-годишната Snapchat инфлуенсърка Карин Марджъри, която представи своя ИИ версия. Нейният чатбот се отдава на секс чатове и взима по 1 долар на минута.

Въпреки, че много инструменти с ИИ се използват с подобни цели, Allie е малко проблематична. Според съобщенията, сексботът позволява на потребителите да се отдават на фантазии за изнасилване и малтретиране онлайн.

Според създателят на Allie, моделите с отворен код позволяват на „хората да създават продукти, които отговарят на техните предпочитания, без да се налага да се съобразяват с корпоративните изисквания“. Той се позова на чатботове като ChatGPT, които са „силно цензурирани“ и могат да се използват в контролирана и безопасна среда.

На фона на нарастващата тенденция потребителите да се обръщат към модели с изкуствен интелект като LLaMA, за да разиграват сексуалните си фантазии, експерти от индустрията изразиха загриженост.

ИИ моделите с отворен код, които са предимство за разработчиците, често се публикуват в Hugging Face, платформа за ИИ, където потребителите качват и споделят своите модели за машинно обучение.

Главният изпълнителен директор на компанията, Клем Делангу в интервю за Washington Post призна, че с инструменти като Allie може да се злоупотребява. Все пак той каза също, че подходът с отворен код позволява по-невероятни иновации и прозрачност, отколкото затворените модели.

Правилата на Hugging Face позволяват проекти с откровена сексуална насоченост. Все пак те са поставили ограничения за съдържание, което включва непълнолетни или което е „използвано или създадено за тормоз, издевателство или без изричното съгласие на представените хора в него“, съобщава Washington Post.