Anthropic позволява на децата да използват неговата AI технология

Стартъп компанията Anthropic обнови своята политика, за да позволи на непълнолетните потребители да използват нейните генеративни AI-системи при определени обстоятелства.

Според блога, децата и тийнейджърите ще могат да използват странични приложения, базирани на моделите на компанията. Това изисква разработчиците на услуги да внедрят определени функции за сигурност и да разкрият на потребителите какви Anthropic технологии са интегрирали.

Сред изискванията, изброени от стартъпа: включването на алгоритъм за проверка на възрастта, система за модериране и филтриране на съдържанието, както и механизми за наблюдение и докладване. Освен това разработчиците трябва да осигурят образователни ресурси относно „безопасното и отговорно“ използване на AI за непълнолетни.

Компанията каза, че може да предостави „технически мерки“, насочени към адаптирането на AI-продуктите за децата и тийнейджърите. Например, да предостави „подсказка на системата за безопасност“, която организациите, насочени към непълнолетните, ще трябва да прилагат.

Разработчиците, използващи AI-технологията на Anthropic, също трябва да спазват „приложимите“ разпоредби за защита на децата и поверителността на данните, включително и Закона за защита на поверителността на децата онлайн.

Компанията казва, че планира „периодично“ да преглежда приложенията за съответствие. Ако те многократно се нарушават, Anthropic ще спира или изтрива акаунти.

Компанията добави, че разработчиците трябва „ясно да заявят“ съответствието на официалните сайтове или документация.

„Има определени случаи, в които AI-инструментите могат да осигурят значителни ползи за младите потребители, като подготовка за изпити или подкрепа за обучение. Имайки това предвид, новата политика позволява на организациите да включват нашия API в своите продукти за непълнолетни“ — се посочва в блога.