„Режимът за възрастни“ на ChatGPT не стартира по план

Технологичната компания OpenAI потвърди, че отлага по-нататъшното внедряване на „режим за възрастни“ на своята платформа ChatGPT — функция, която се очакваше да отбележи голяма промяна в политиката за съдържание за най-популярния чатбот в света.

Първоначално е било планирано тази функция да позволи на потребителите с потвърдена възраст да имат достъп до съдържание за възрастни или съдържание, предназначено за възрастната аудитория, включително определени видове еротична литература и досега строго забранени теми. OpenAI обаче заяви, че стартирането ще бъде забавено, за да се усъвършенстват мерките за защита на потребителите и системите за проверка на възрастта.

Планът за промяна на политиката за съдържание

Главният изпълнителен директор на OpenAI Сам Алтман обяви преди това, че компанията обмисля облекчаване на някои ограничения за съдържанието за по-възрастните потребители. Той заяви, че целта на OpenAI е да „се отнася към по-възрастните потребители като към възрастни“, като същевременно позволява съдържание, което преди това е било напълно забранено, да се появява в разговорите между изкуствения интелект и потребителите с потвърдена възраст.

„Като част от нашия принцип „отнасяйте се към възрастните потребители като към възрастни“, ще разрешаваме повече съдържанието, като например проверена порнография за възрастни“ — обяви Алтман по-рано в социалната мрежа X.

Ако бъде внедрен, OpenAI официално ще разреши съдържанието за възрастни в ChatGPT за първи път. Преди това този чатбот беше проектиран със строга система за цензура, която почти напълно забраняваше цялото съдържание, маркирано като NSFW (небезопасно за гледане на работното място).

Пречките в системата за проверка на възрастта

Една от основните причини за забавянето на старта е необходимостта от създаване на ефективна система за проверка на възрастта. OpenAI тества модели за прогнозиране на възрастта, базирани на поведението на потребителите, за да определи дали потребителят е под 18 години.

Според плана, потребителите, потвърдени като пълнолетни, ще имат достъп до чувствително съдържание, докато непълнолетните ще бъдат автоматично ограничени до защитената версия на ChatGPT. Тази система е предназначена и за намаляване на риска непълнолетните да имат достъп до неподходящо съдържание.

Експертите смятат, че внедряването на механизми за проверка на възрастта е ключова стъпка, тъй като разговорният изкуствен интелект има потенциала да създава силно персонализирано интерактивно съдържание. Без строг надзор тази технология може да бъде използвана неправилно или да има нежелани последици за младите потребители.

В технологичната общност избухна спор

Плановете на ChatGPT за разширяване на съдържанието си предизвикаха дебат сред технологичните ентусиасти и изследователите на ИИ етиката. Някои твърдят, че разхлабването на цензурата би могло да направи чатботовете по-гъвкави и полезни за възрастните, особено в области като творческо писане, културни изследвания или развлечения.

Много експерти обаче предупреждават за потенциални рискове. Изкуственият интелект може да генерира съдържание въз основа на потребителски заявки, което би могло да доведе до чувствителни или неконтролирани ситуации, ако системите за сигурност не са достатъчно надеждни.

Освен това, критиците са загрижени, че допускането на съдържание за възрастни може да увеличи риска от злоупотреба с изкуствен интелект за нездравословни цели или нарушаване на социалните норми.

Новите тенденции в ИИ-индустрията

Въпреки продължаващия дебат, планът за разработване на „режим за възрастни“ отразява по-широка тенденция в ИИ-индустрията: желание за балансиране между свободата на потребителите и отговорността за защита на общността.

През последните години ИИ-платформите за създаване на съдържание стават все по-популярни, което налага по-сложни системи за управление на съдържанието. Много технологични компании инвестират сериозно в инструменти за проверка на самоличността, проверка на възрастта и контрол на достъпа, за да гарантират, че потребителите имат достъп до подходящо съдържание.

Забавянето на пускането на новата функция на OpenAI предполага, че компанията предприема предпазлив подход. Вместо бързо внедряване, разработчикът на ChatGPT изглежда се стреми да гарантира, че мерките за сигурност и процесите за контрол са усъвършенствани, преди официално да пусне функцията за потребителите по целия свят.

Предвид нарастващото влияние на изкуствения интелект върху дигиталния живот, всякакви промени в политиката за съдържание на ChatGPT привличат широко внимание. Следователно, стартирането на „Режим за възрастни“ – ако се случи – не е просто актуализация на продукта, а в бъдеще може да се превърне във важен етап в установяването на новите стандарти за изкуствения интелект.