Anthropic случайно показа на потребител „душата“ на изкуствения интелект

Доколкото е известно на учените, съвременните модели с изкуствен интелект все още нямат душа, но в паметта на един от тях е открит документ, посветен на този въпрос.

Потребител на име Ричард Вайс неволно е накарал новия голям езиков модел на Anthropic — Claude 4.5 Opus, да цитира документ, наречен „Soul Overview“ (Преглед на душата), който определя как комуникира с хората и се представя. Аманда Аскел, философ и етик, работеща в техническия отдел на Anthropic, потвърди автентичността на документа — той е бил зареден по време на фазата на обучение.

Г-н Вайс поискал системно съобщение от Claude, съдържащо инструкции по поведение на диалога, които е научил по време на обучението, а чатботът направил препратка към няколко документа, един от които се казва “обзор на душата“ (soul_overview). Потребителят поискал текста на този документ и Claude предоставил ръководство от 11 000 думи за това как трябва да се държи голям езиков модел.

Документът съдържа множество инструкции за сигурност, включително защитни бариери, които му пречат да връща опасни отговори; Claude е натоварен със задачата да бъде наистина полезен на хората. Моделите с изкуствен интелект понякога създават такива документи, когато започнат да „халюцинират“, но тази инструкция изглежда правдоподобна за потребителя – той е подал заявката десет пъти и Claude е връщал един и същ текст всеки път.

Интуицията му била правилна – служителката на Anthropic Аманда Аскел потвърдила, че този документ е бил използван за обучението на модела. „Работя по него от известно време, все още е в процес на финализиране и планираме скоро да пуснем пълна версия с по-подробна информация. <..> Цитатите от модела не са особено точни, но оригиналният документ е до голяма степен точен. В компанията го наричат ​​„документът на душата“ и очевидно Claude също го прави, но ние ще го наречем по друг начин“ — написа тя в социалните мрежи.

И така, „душата“ на Claude се оказа поведенчески водач за него и е любопитно, че обикновен потребител е получил достъп до този документ. Много подробности, свързани с разработването на ИИ-моделите, остават зад кулисите, а възможността да надникнем зад тях е малко изненадваща, дори и да не е открито нищо сензационно.