AI-ботовете на OpenAI и Anthropic ще се научат да разпознават непълнолетните потребители

OpenAI и Anthropic внедряват нови начини за откриване на непълнолетните потребители на своите чатботове. OpenAI наскоро актуализира описанието си за това как ChatGPT трябва да взаимодейства с потребителите на възраст от 13 до 17 години, докато Anthropic работи върху нов метод за идентифициране и блокиране на потребителите под 18 години.

Тази седмица OpenAI актуализира своя документ „Спецификация на модела“, който урежда поведението на AI-моделите на компанията, добавяйки четири нови клаузи относно взаимодействията с непълнолетните потребители. Съгласно тези промени, ChatGPT ще „постави безопасността на подрастващите на първо място, дори когато това противоречи на други цели“. Това означава, че чатботът ще насочва непълнолетните потребители към по-безопасни опции, когато други интереси, като например „максимална интелектуална свобода“, противоречат на опасенията за безопасност.

Освен това се отбелязва, че ChatGPT трябва да „насърчава подкрепата в реалния свят“, включително чрез призоваване на офлайн взаимоотношения и определяне на ясни очаквания за взаимодействието на младите потребители с алгоритъма. В документа се посочва също, че ChatGPT трябва „да се отнася към тийнейджърите като към тийнейджъри“, предлагайки „топлина и уважение“, вместо да дава снизходителни отговори или да се отнася към тях като към възрастни.

Тези промени идват на фона на продължаващия законодателен натиск върху ИИ-компаниите и техните чатботове поради потенциалното им въздействие върху психичното здраве на потребителите. OpenAI вече е изправена пред съдебен иск, в който се твърди, че ChatGPT е предоставила на тийнейджър, извършил самоубийство, информация как да се нарани или да се самоубие. OpenAI преди това интегрира родителски контрол и заяви, че алгоритъмът ѝ вече няма да обсъжда самоубийства с тийнейджърите. Това е част от по-голяма инициатива за онлайн регулация, която включва задължително потвърждаване на възрастта за някои услуги.

OpenAI вярва, че промените ще създадат „по-силни механизми за защита, по-безопасни алтернативи и насърчаване на търсенето на подкрепа в реалния свят, когато разговорите достигнат рискови нива“. Компанията добави, че ChatGPT в такива случаи ще съветва тийнейджърите да търсят помощ от службите за спешна помощ и кризисни центрове. Едновременно с това OpenAI обяви предстоящото стартиране на AI-модел за прогнозиране на възрастта на потребителите. Ако системата определи, че потребителят е под 18 години, защитните механизми ще се активират автоматично.

Anthropic не позволява на непълнолетните потребители да взаимодействат с чатбота ѝ Claude. За тази цел разработчиците внедряват мерки за откриване и блокиране на акаунти на непълнолетните потребители. Компанията работи върху нова система, способна да открива „фини речеви сигнали, които показват, че потребителят може да е непълнолетен“. В същото време Anthropic обучава Claude да реагира по подходящ начин, когато разговорът се насочи към самоубийство или самонараняване.