Anthropic представи модифицирана версия на „конституцията“ на своя чатбот Claude

Anthropic се старае да отделя особено внимание на поясненията относно своята работа, мисия и фирмени разработки, като например своя чатбот Claude, и тази седмица пусна нова версия на така наречената си „конституция“, обясняваща как работи и целите, които преследва в своето развитие.

Документът определя етичните принципи, към които компанията се придържа при разработването на Claude. Тези принципи се използват и за самоконтрола на чатбота. Така наречената „софтуерна конституция“ съдържа 80 страници и се състои от четири раздела, определящи „основните ценности“ на чатбота: безопасност, етика, съответствие с мисията на Anthropic и ангажимент за общественото благо. Всеки раздел описва как тези принципи влияят на поведението на Claude.

Разработчиците на Claude се стремят да избегнат етичните грешки на конкурентите си. Например, ако чатботът подозира, че потребител има психично разстройство, той незабавно препоръчва да се свърже със специалист, ако стане ясно, че ситуацията може да представлява заплаха за живота и здравето. Етичните въпроси се разглеждат по-скоро в практически контекст, отколкото като теоретични дискусии. Някои теми първоначално са забранени за обсъждане – например създаването на биологични оръжия.

И накрая, Anthropic се стреми да направи Claude възможно най-лесен за ползване и да е полезен. Осигуряването на дългосрочното благополучие на хората при разпространението на информация чрез чатбота е приоритет пред краткосрочните интереси. Уставът на Claude включва и раздел, посветен на философските размисли на разработчиците. Те поставят под въпрос моралния статус и съзнание на Claude, подчертавайки, че не са сами в подобни размисли и че конкуренти и колеги също размишляват върху подобни въпроси.