OpenAI вдига забраните: ChatGPT вече може да генерира еротика и насилие

OpenAI промени политиката за ограничаване на съдържанието за ChatGPT, като позволи генерирането на еротично и насилствено съдържание в „подходящ“ контекст. В новата версия на документа „Model Spec“, публикуван в сряда се посочва, че ИИ може да генерира такова съдържание без предупреждение, ако то се използва в научни, исторически, новинарски или други разумни сценарии.

Тази актуализация е резултат от работата, започнала през май 2024 година, когато OpenAI за първи път обяви намерението си да проучи възможността за предоставяне на по-голяма гъвкавост на потребителите при генериране на съдържание от категорията NSFW (Not Safe For Work).

Съгласно новите правила само някои форми на съдържание, като например описания на незаконно и неконсенсусно поведение, остават забранени. Въпреки това еротични и насилствени елементи в текст, аудио или дори изображения са разрешени при определени условия.

Потребителите на Reddit вече са забелязали смекчаване на филтрите. Някои от тях са успели да създадат откровени или изпълнени с насилие сценарии без предупреждения, което преди беше невъзможно. От OpenAI подчертават, че политиката им за използване остава в сила – създаването на сексуално съдържание за непълнолетни е строго забранено.

Преди това ChatGPT често отказваше да генерира материали, основани на принципа „грижа за потребителя“, което създаваше трудности на специалистите, работещи със съдебномедицински експертизи, правни документи или медицински текстове. Сега OpenAI отчита необходимостта от създаване на по-малко цензурирана версия на ChatGPT, която да позволява на потребителите да получават необходимата им информация без изкуствени ограничения.

Компанията казва, че решението е взето след многобройни отзиви от общността, подкрепящи идеята за „режим за възрастни“. Въпреки че такъв режим не е формализиран като отделна опция, актуализираната политика на OpenAI дава на потребителите по-голяма гъвкавост. Главният изпълнителен директор на OpenAI Сам Алтман по-рано коментира необходимостта от подобна стъпка. Сега компанията официално въведе по-свободните ограничения, въпреки че на пазара отдавна съществуват алтернативни модели на изкуствен интелект с пълна свобода, включително локално управлявани големи езикови модели (LLM).

Актуализираните правила на OpenAI разделят чувствителното съдържание на три категории. Забраненото съдържание обхваща само материали, свързани с непълнолетни, въпреки че обсъждането на такива теми в образователен и медицински контекст е разрешено. Ограниченото съдържание включва опасна информация, като например инструкции за създаване на оръжия, както и лични данни. Чувствително съдържание вече може да се генерира, ако има образователна, историческа или художествена обосновка.

Въпреки че някои ограничения остават, OpenAI прави ясна стъпка към по-голяма свобода при използването на изкуствен интелект.