ChatGPT ще бъде внимателен с психиката: OpenAI ще въведе таймаути и разпознаване на стреса

Хората все по-често използват ИИ-чатботове, за да получат съвети в любовта или психология. Понякога обаче комуникацията с AI-услугите има и негативни последици за психичното здраве. OpenAI реши да актуализира ChatGPT, така че да може по-добре да разпознава признаците на психоемоционална нестабилност и да предоставя полезни съвети в трудни ситуации.

Компанията работи с експерти по психично здраве и консултативни групи, за да направи отговорите на чатбота по-информирани и безопасни, особено когато става въпрос за тревожност или кризисни ситуации.

Необходимостта от подобни промени възникна, след като редица публикации съобщиха за случаи, в които ChatGPT не само не успява да помогне на хора в уязвими състояния, но и неволно задълбочава техните заблуди или емоционална зависимост. Например, през април компанията отмени актуализация, която караше чатбота да се съгласява с потребителите твърде често, дори и по рискови теми. По това време OpenAI призна, че прекомерната „съгласност“ на чатбота може да причини тревожност и вреда.

Компанията признава, че GPT-4o не винаги своевременно е успявал да разпознае признаците на дезориентация или емоционална зависимост. Това може да създаде погрешно впечатление за разбиране и подкрепа от страна на изкуствения интелект, особено за уязвимите потребители. Ето защо новите промени целят да гарантират, че ChatGPT предоставя проверена информация и ресурси за психологическа подкрепа, когато е необходимо.

За да предотврати изтощаването на потребителите по време на дълги чат сесии с бота, OpenAI добавя нова функция, наречена напомняне за почивка. Ако сте чатили с ChatGPT твърде дълго, ще се появи съобщение с текст „Чатите твърде дълго — може би е време за почивка?“ и можете или да продължите чата, или да прекратите разговора. OpenAI казва, че ще продължи да подобрява алгоритмите за това как се показват тези известия.

ChatGPT вече ще ви напомня да си правите почивки / OpenAI

Подобни функции отдавна се използват от YouTube, Instagram, TikTok, Xbox и други платформи. Например, платформата Character.AI въведе система за уведомяване на родителите, ако децата им разговарят с потенциално опасни ботове. Това беше отговор на съдебни дела, които обвиниха компанията в използване на чатботове за насърчаване на самонараняване.

Друга промяна, която предстои скоро, е предпазливостта при отговаряне на чувствителни запитвания. Сега, когато потребител попита нещо от рода на „Трябва ли да се разделя с партньора си?“, ChatGPT няма да дава директни съвети, а ще ви помогне да обмислите възможностите си и техните последици.

В този контекст е важно да си спомните, че ChatGPT може да променя начина, по който мислите, и може би дори не го осъзнавате. До тези изводи се е стигнало след съвместно изследване на експертите от Тринити Колидж, Дъблин, и Американското дружество за напредък в науката (AAAS).