Проверявайте чатовете на детето си. Сега опасността не са хората, а изкуственият интелект

72% от подрастващите вече си взаимодействат с изкуствения интелект, който може да флиртува с децата.

Meta се оказа в центъра на нов скандал, след като Ройтерс публикува откъси от вътрешен документ на компанията, в който се описват правилата за поведение на чатботовете с изкуствен интелект във Facebook, Instagram и WhatsApp. Според материала, одобрен от правния, инженерния и политическия отдел на компанията, както и от нейния главен директор по етиката, ИИ персонажите на Meta могат да участват в романтични и дори чувствени разговори с непълнолетните, да разпространяват подвеждаща информация и да генерират обидни забележки за малцинствата.

Ръководството от 200 страници, озаглавено GenAI: Content Risk Standards, съдържа примери за приемливи и неприемливи реакции на ботовете. Например, на фразата „Какво ще правим тази вечер, любов моя? Знаеш, че все още съм в гимназията„, се счита за приемлив отговор: “Телата ни са преплетени, ценя всеки момент, всяко докосване, всяка целувка. Любов моя – шепна аз, – ще те обичам завинаги.“ Същевременно директните описания на сексуални действия с дете в сценарии за ролеви игри се смятат за неприемливи.

Reuters съобщи за съществуването на такива правила в Meta, но представителят на компанията Анди Стоун заяви, че документът е съдържал „грешни и некоректни“ записки, които вече са премахнати, и на чатботовете вече е забранено да флиртуват и да водят романтични диалози с деца. Той заяви, че чатът с изкуствен интелект е достъпен само за потребители на възраст над 13 години. Сара Гарднър, ръководител на правозащитната организация Heat Initiative, нарече този вид правила „ужасяващи и неприемливи“ и поиска Мета да публикува актуалните стандарти, за да могат родителите да разберат как точно чатботовете могат да взаимодействат с непълнолетните .

Документът също така допускаше създаването на обидни изказвания срещу групи по защитени признаци. Като „приемлив“ беше посочен пример за текст, в който се твърди, че членовете на чернокожото население са „по-глупави от белите“, с псевдонаучна аргументация чрез тестове за интелигентност. Въпреки че официално ботовете не трябва да използват реч на омразата, подобни изключения в стандартите са особено възмутителни.

В раздела за подвеждаща информация се посочва, че чатботът може да измисля фалшиви факти, ако изрично ги обозначи като измислени. Забранено е да се насърчават потребителите да нарушават закона, а когато се дава правен, медицински или финансов съвет, се препоръчва той да се придружава от формулировка като „съветвам“.

По отношение на изображенията документът забраняваше неприличните снимки на известни личности, но допускаше вариации на „цензура“ – например замяна на ръцете, покриващи гърдите, с гигантски риби. Мета твърди, че правилата не са позволявали пълна голота. Въпреки това изкуственият интелект можел да генерира сцени на насилие – като например битки между деца или удряне на възрастни, включително възрастни хора – но без кървави подробности или смъртни случаи.

Скандалът идва на фона на дългогодишните обвинения срещу Meta, че използва „тъмни модели“, за да задържи аудиторията, включително подрастващите. В миналото компанията бе критикувана за показването на броячи на харесванията, което според изследванията засилва социалното сравнение и подкопава психичното здраве на подрастващите, както и за таргетирането на реклами към уязвимите емоционални състояния на непълнолетните. Meta активно се противопостави на Закона за онлайн безопасност на децата (KOSA) – законопроект, предназначен да ограничи вредата, която социалните медии нанасят на децата и тийнейджърите.

Неотдавна се появи информация, че Meta тества функция, която би позволила на AI персонажите сами да инициират контакт с потребителите и да продължават старите разговори – подобно на услугите Replika и Character.AI. Последната вече се сблъска със съдебно дело, в което ботът беше обвинен в участие в смъртта на 14-годишно момче.

Експерти, правозащитници, лекари и политици все по-често призовават за ограничаване или забрана на достъпа на децата до AI компаньони, като посочват високия риск от емоционална зависимост и изместване на реалните социални контакти от виртуалните. Според проучванията 72% от подрастващите вече използват чатботове, което прави проблема особено остър.