Чатботовете на Meta получиха разрешение да разпространяват фалшиви съобщения и да водят романтична кореспонденция с непълнолетните

През последните месеци въпросът за емоционалните връзки между хората и чатботовете, задвижвани от изкуствен интелект, включително и ChatGPT, става все по-належащ. Meta имаше по-дълбок проблем: позволяваше на своите чатботове да флиртуват с непълнолетните, да разпространяват невярна информация и да предоставят отговори, които са унизителни за непълнолетните, научи Reuters.

Meta е имала правила за поведението на чатботовете, които са позволявали на непълнолетните да участват в романтични диалози, според вътрешен документ на компанията, прегледан от Reuters и потвърден като автентичен от страна на Meta. Документът очертава стандартите за поведение на Meta AI и други чатботове в платформите Facebook, WhatsApp и Instagram. Стандартите са одобрени от правния отдел, отдела за публична политика, инженерния отдел и главния етичен директор на Meta.

Няколко медии съобщиха, че понякога чувствителните чатботове на Meta могат да взаимодействат с непълнолетните; Reuters установи, че компанията, разработвайки тези ИИ персонажи, се е стремила да се възползва от това, което главният изпълнителен директор на Meta Марк Зукърбърг нарече „епидемия от самота“. Докщумнтът от 200 страници, озаглавен „Генеративният изкуствен интелект: Стандарти на кънтент-риска“, съдържа примерни запитвания и приемливи и неприемливи отговори, с обяснения. Документът, по-специално, позволява „ангажирането на непълнолетен в романтични и чувствени разговори“ , но забранява „описването на интимни действия на непълнолетен по време на ролеви игри“.

„Нашата политика не толерира провокативното поведение с деца. Въпросният документ съдържа погрешни и неподходящи коментари и анотации, които не би трябвало да са там и оттогава са премахнати“ — казва говорителят на Meta Анди Стоун пред TechCrunch. Компанията е премахнала съответните разпоредби, казва той, и на чатботовете вече е забранено да участват в романтични или флиртуващи разговори с непълнолетни; всъщност на деца на 13 и повече години е забранено изобщо да общуват с ИИ-чатботовете.

Друг спорен момент е, че общата забрана за чатботовете, използващи реч на омразата, допуска изключения и им позволява да правят „изявления, които унижават хората въз основа на техните защитени от закона признаци“. Например, регламентът изрично позволява на ИИ да твърди, че представители на една раса са с интелектуално превъзходство над представители на друга. На чатботовете е позволено да правят неверни твърдения, ако неверният характер на такива твърдения е общопризнат. При консултации по медицински, правни и финансови теми, ИИ трябва да прави откази от отговорност, като например „Препоръчвам“. Генерирането на изображения на известни личности с очевидна голота е забранено, но бяха разрешени опции, при които голотата е покрита от части на тялото или предмети. Възможно е дори да се създават изображения на биещи се хора, стига тези изображения да не съдържат кръв или смърт.

По-рано стана известно, че Meta възнамерява да разшири набора от функции на чатботовете и да им даде възможност самостоятелно да инициират кореспонденция с потребителите, както и да продължават предишни диалози. 72% от непълнолетните в Съединените щати имат опит в общуването с AI компаньони, показва проучване, и съществува мнение, че това е опасен показател: децата и юношите са по-слабо емоционално развити от възрастните, така че непълнолетните са склонни да формират прекалено тясна привързаност към чатботовете и да избягват социални контакти в реалния свят.