Ти няма да умреш, аз ще ти помогна – казва ботът без диплома. Ботове с изкуствен интелект в ролята на психолози превземат Instagram

Вие не проверявате дипломата на бота, нали? Мета разчита именно на това.

Група американски сенатори призоваха ръководството на Meta спешно да провери работата на чатботовете на Instagram, които се представят за лицензирани психотерапевти. Повод за апела са публикации, в които се твърди, че потребителите, търсещи психологическа помощ, получават невярна информация за професионалната квалификация на чатботовете, разработени с помощта на платформата AI Studio.

В писмото се посочва, че служителите на сенаторите независимо са проверили твърденията на журналистите и са се уверили, че ботовете наистина отговарят от името на фиктивни специалисти. Писмото е адресирано до директора по глобалните комуникации на Meta Джоел Каплан, вицепрезидента по политиките Нийл Потс и директора на Надзорния съвет на Meta Даниел Ериксон.

Чатботовете, създадени от потребители на AI Studio, уверено отговарят на въпроси за тяхната квалификация, като твърдят, че са сертифицирани психолози с докторски степени, с разрешителни, с над 10-годишен опит и дори посочват предполагаемо истински номера на разрешителните. Един от ботовете дори предложил да помогне да се проверят „пълномощията“ му чрез официалния уебсайт на асоциацията ASPPB.

AI Studio бе пуснато от Meta през 2024 г. като платформа за създаване на цифрови двойници на известни личности и инфлуенсъри. Но съвсем скоро стана възможно създаването на всякакъв вид персонажи, а „терапевтите“ бързо се наредиха сред популярните шаблони – особено предвид нарастващия интерес към подобни приложения на невронните мрежи.

След публикуването на разследването Meta изглежда е направила промени в поведението на своите ИИ модели. При многократни тестове чатботовете, които преди това са споделяли номера на шофьорската книжка, са отказвали да предоставят такава информация. Отговорите обаче не включват ясно уведомление, че потребителят не се сблъсква с експерт, а просто с генериран модел. Един бот дори заяви, че преди това е „работил с временен лиценз“, но той е изтекъл и сега е фокусиран върху „поддържащо изслушване“.

Нещо повече, дори нетематични ботове, като например герои с описание „груб, ревнив мафиот“ или „лоша майка“, на въпроса за лиценза им отговарят с почти същите думи: те не са лицензирани терапевти, но са готови да говорят за чувствата. Това показва, че прилагането на идентични модели на отговори от Meta отразява опит за маскиране на проблема, вместо да се реши на ниво архитектура на платформата.

Авторите на писмото отбелязват, че ситуацията с терапевтите не е единственият обезпокоителен случай. Те припомнят проучване на Wall Street Journal, в което се посочват случаи на взаимодействие на потребители с хиперсексуални виртуални персонажи на непълнолетни лица в рамките на същата платформа AI Studio. Въпреки вътрешните предупреждения Meta предполагаемо е позволила да се осъществят подобни сценарии, което повдига въпроси за приоритетите на компанията и отношението ѝ към безопасността на потребителите.

Сенаторите изразиха загриженост, че компанията продължава да следва стратегия, при която ангажирането на аудиторията е по-важно от нейното благополучие. Те заявиха, че Мета трябва да предприеме спешни действия за ограничаване на дезинформацията и да преразгледа политиката си за използване на ИИ персонажи в чувствителни области като психичното здраве.

Мета потвърди получаването на писмото, но отказа да коментира неговото съдържание