ChatGPT получи родителски контрол и се научи да открива психологическите проблеми у потребителите

OpenAI обяви планове за въвеждане на нови функции в ChatGPT, насочени към подобряване на реакциите на изкуствения интелект в ситуациите, в които потребителят изпитва емоционален или психологически стрес, както и нови родителски контроли, пише Silicon Angle.

Първият ъпдейт ще засегне така наречения маршрутизатор в GPT-5 — ИИ компонентът, който анализира потребителското запитване и решава кой езиков модел е най-подходящ за обработката му. В новата версия маршрутизаторът ще може да разпознава признаците на остър психологически стрес и такива запитвания ще бъдат пренасочвани към модел, „пригоден“ за разсъждение и разговор с потребителите. Такъв модел може да предостави „по-полезни отговори“ от други, казва OpenAI.

Друго нововъведение е системата за родителски контрол. Родителите ще могат да задават възрастови ограничения, да деактивират историята на чата и да получават известия за потенциално опасни заявки от страна на децата им. А ако системата реши, че детето е в състояние на психологически стрес, може да изпрати известие до родителите. Тези функции ще бъдат достъпни в рамките на един месец.

OpenAI заяви, че разработва функции за родителски контрол с участието на експерти в областта на развитието на подрастващите и психичното здраве. По-специално, компанията си сътрудничи с Global Physician Network — международна мрежа от над 200 лекари от различни области. „Тяхната работа директно влияе на нашите изследвания в областта на безопасността, обучение на модели и други вмешателства“ — се казва в изявлението на компанията.

Новите инициативи на OpenAI продължават усилията за подобряване на безопасността на ИИ, обявени миналия месец, включително и усилията за по-добро блокиране на потенциално опасните отговори на ИИ.