OpenAI – компанията разработчик на популярния чатбот с изкуствен интелект ChatGPT публикува проектодокументация, в която са описани основните принципи на неговите технологии.
Важна част от документа е голям раздел, в който се обсъжда възможността за целенасочено въвеждане на функции за създаване на т.нар. NSFW съдържание.
NSFW е съкращение от термина „Not Safe for Work“, което означава „Не е безопасно за работа“. Това е жаргон, използван в интернет като сигнал за съдържание, което не е подходящо за гледане на обществени места или на работното място (например, порнографско съдържание).
Понастоящем политиката за използване на OpenAI забранява съдържание със сексуален характер или дори внушаващо такъв. В документа обаче се посочва, че компанията обмисля да разреши този тип съдържание в подходящ за възрастта контекст. Малко вероятно е чатботът да се научи да генерира порнография, но лекият еротичен разказ е подходящ, ако е уместен в контекста на диалога.
„Вярваме, че разработчиците и потребителите трябва да разполагат с гъвкавост да използват нашите услуги, както намерят за добре, при спазване на нашите политики за използване. Проучваме дали можем отговорно да предоставим възможност за генериране на NSFW съдържание в подходящ за възрастта контекст с помощта на API и ChatGPT.„
гласи коментар на OpenAI по темата
Проблемът с прекомерното ограничаване на отговорите е актуален за много ИИ-инструменти. Например Bing на Microsoft и Gemini на Google моментално отказват да отговорят на въпрос, ако бие към NFSW. Компаниите се опасяват от потенциално вредни отговори, които биха могли да накърнят репутацията им. От друга страна, ChatGPT на OpenAI е по-малко подвластен на такива ограничения, и ако се съди по публикуваната документация, в бъдеще тези ограничения ще станат още по-незначителни.
В бележка в документацията се споменава, че разрешеното съдържание на категория NSFW може да включва еротика, насилие, обиден език и нежелани ругатни.
Всичко това скоро може да започне да се генерира от чатбота, ако компанията намери начин да накара езиковия модел да определя уместността на такова съдържание и да го генерира, без да преминава границата.
Въпреки добрите намерения на OpenAI, въпросът за ефективното модериране на подобно съдържание и предотвратяването на злоупотреби с него все още е доста актуален и сериозен.
Желанието на компаниите да разширят функционалността на асистентите с изкуствен интелект като въведат генериране на съдържание за възрастни, крие много сериозни рискове. Дори и при внимателно модериране винаги съществува възможност подобни функции да бъдат използвани за недобросъвестни цели.
Компаниите трябва да бъдат изключително предпазливи при включването на такива функции, като се уверят, че разполагат със стабилни системи за филтриране на съдържанието и защита от злоупотреба. В противен случай стремежът към използване на възможностите на изкуствения интелект може да навреди на интернет общността и на репутацията на самите разработчици.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
