Заявките към системите с изкуствен интелект, в които чатботовете се съветват да се представят като професионалисти могат да понижат качеството на генерираното съдържание, включително и на програмния код. До този извод стигнаха учени от Университета на Южна Калифорния в свое изследване.
Още през 2023 гoдина, когато възникна т.нар. бум на AI, изследователите препоръчаха заявките към чатботовете за генериране на програмен код да започват с фрази от типа: „Ти си опитен програмист“. Смяташе се, че това може да повиши качеството на програмния код в отговор. Подобни препоръки се срещат и сега, но в ново проучване учените установиха, че ефективността на заявките със задаване на ролеви модел зависи от поставената задача. Ако става дума за задачи, свързани с материали от предварителното обучение като математика или програмиране, качеството на отговора може да се понижи.
Причината е, че споменаването на професионална роля в заявката всъщност не добавя към нея никакви експертни знания – обемът на обучителните данни остава същия.
При използването на материали, получени на етапа на предварителното обучение, задаването на ролеви модел може дори да се превърне в пречка. Това се потвърди при преминаването на популярния тест MMLU (Massive Multitask Language Understanding): при задаване на ролята на експерт в заявката качеството на отговорите се понижи във всичките четири категории, а общата точност спадна от 71,6 на 68,0%.
Изборът на ролеви модел увеличава вероятността AI да даде отговора, който потребителят очаква, а това може да се отрази негативно на качеството на самата задача, тъй като AI се стреми повече да съответства на зададената роля. При писането на програмен код обаче ролевият модел допринася за по-подробна и качествена разработка на потребителския интерфейс, архитектурата на проекта и избора на инструменти. За решаване на поставения проблем учените предложиха схемата PRISM (Persona Routing via Intent-based Self-Modeling), при която AI автоматично избира ролеви модел или просто генерира съдържание по заявка – в зависимост от типа на поставената задача се включва механизъм на базата на нискорангова адаптация LoRA.
„Ако за вас е по-важно спазването на изискванията (за сигурност, правила, установена структура и т.н.), конкретизирайте ги. Ако пък е по-важна точността и фактите, просто изпратете заявка.“
заключават учените
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
