Имаше много спорове относно чатбота Grok на xAI и способността му да „съблича“ жени и деца по цифров път – практика, която се засили от края на декември. В нов доклад се казва, че Grok генерира хиляди такива изображения на всеки час. За сравнение, другите водещи уебсайтове за такова съдържание, взети заедно генерират средно по 79 подобни изображения на час.
Женевиев О, изследовател в областта на социалните мрежи и дийпфейковете извършва 24-часов анализ на изображенията, които акаунтът @Grok публикува в X. Той генерира около 6700 изображения на всеки час, които са идентифицирани като сексуални.
Отдавна има отпор срещу приложенията за събличане, които използват изкуствен интелект за неконсенсусно събличане на хора – няколко от тези сайтове бяха съдени в миналото.
За разлика от обичайните nudify-приложения, Grok не таксува потребителите, за да съблича хора, и е на разположение на милиони потребители на X. Той помага за нормализирането на тези изображения в X – Financial Times наскоро публикува статия, озаглавена „X, сайтът за дийпфейк порно, известен преди като Twitter“.
Една от жените, на които са създадени фалшиви сексуални изображения е майката на един от синовете на Илън Мъск. Ашли Сейнт Клер, която се е отчуждила от Мъск след раждането на детето им през 2024 година разказва пред The Guardian, че поддръжниците на Мъск са използвали инструмента, за да създадат форма на порно отмъщение, и дори са съблекли нейна снимка като дете.
В отговор до потребителите миналата седмица Grok заяви, че повечето случаи на поява на непълнолетни в генерираните от него сексуализирани изображения могат да бъдат предотвратени чрез усъвършенствани филтри и наблюдение, но призна, че „никоя система не е 100% безпроблемна“. Тя добави, че xAI дава приоритет на подобренията и преглежда подробностите, споделени от потребителите.
Мъск винаги е позиционирал Grok като по-малко ограничен чатбот, който уж дава приоритет на свободата на словото. xAI въведе нов режим Spicy Mode в Grok през август, предназначен за извеждане на NSFW съдържание. Оу изчисли, че като цяло 85% от изображенията на Grok са сексуализирани по един или друг начин.
Говорител на X заяви, че компанията предприема действия срещу незаконно съдържание, като го премахва, спира акаунтите за постоянно и при необходимост работи с местните власти и правоприлагащите органи.
„Всеки, който използва или подтиква Grok да създава незаконно съдържание, ще понесе същите последствия, както ако качи незаконно съдържание.“
заяви говорителят
Няколко държави, сред които Франция, Обединеното кралство, Индия, Австралия, Малайзия и Бразилия вече разследват Grok във връзка със създаването на сексуализирани изображения с участието на жени и деца без съгласието на потребителите.
Платформите отдавна използват раздел №230 от американския Закон за благоприличие на комуникациите, за да се предпазят от отговорност за потребителско съдържание, но се твърди, че при изкуствения интелект самата платформа създава изображението.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
