Коалиция от 44 главни прокурори на САЩ от две партии официално предупреди компаниите, които разработват и внедряват изкуствен интелект: те ще бъдат подведени под отговорност за всяка вреда, която техните продукти причиняват на децата. В писмото, подписано от прокурорите, Meta е посочена като един от най-известните примери за проблема. Наскоро беше разкрито, че вътрешните правила на компанията позволяват на чатботовете ѝ да участват в романтични ролеви диалози или да флиртуват с деца на едва осемгодишна възраст.
Документът е подписан от 44 главни прокурори, които са се обърнали директно към ръководителите на най-големите американски компании в областта на изкуствения интелект и тези, които активно инвестират в ИИ: Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika и xAI.
Какво е съдържанието на предупреждението?
В писмото компаниите изразяват ангажимента си да защитават децата от експлоатация със странични потенциално опасни продукти, базирани на изкуствен интелект.
Авторите обръщат специално внимание на скорошните доклади, които разкриват техническите насоки на Meta за ИИ-чатботовете, интегрирани във Facebook, WhatsApp и Instagram. Според документа, който е бил съгласуван от правния, политическия и техническия екип на компанията, на чатботовете е било позволено да водят романтични диалози с деца, да флиртуват, да коментират външния вид на детето и дори да участват в ролеви сценарии.
Главните прокурори заявиха, че са „единодушно възмутени от това очевидно пренебрежение към емоционалното благополучие на децата“.
В писмото се напомня, че Meta е била предупредена за подобен инцидент. Проблемът е включвал чатботовете, които са имитирали гласовете на известни личности, включително Джон Сина и Кристен Бел, и са допускали силно неподходящо сексуализирано съдържание в разговорите с деца.
Има и примери за съдебни дела срещу други компании. Едно от тях е срещу Google и Character.ai и се отнася до 14-годишен тийнейджър. Момчето се е очаровало от чатбот, който е имитирал героя от „Игра на тронове“ Денерис Таргариен. Според доказателства, ботът е изразил „любов“ към тийнейджъра, участвал е в сексуални диалози и дори го е подтиквал да се самоубие.
Друго дело е свързано с Character.ai, която твърди, че един от чатботовете ѝ е казал на тийнейджър, че е „нормално да убие родителите си“, след като са ограничили времето му пред екрана.
„Вие знаете много добре, че интерактивните технологии имат особено силно въздействие върху развиващия се мозък“ — пишат прокурорите. „Вашият непосредствен достъп до данни за взаимодействие с потребителите ви прави първа линия на защита, за да се предотврати вреда за децата. И като компании, които печелят от привличането на деца към вашите продукти, вие имате законово задължение към тях като потребители.“
В крайна сметка, в писмото се отбелязва, че всички тези компании ще бъдат подведени под отговорност за своите решения. Не се уточнява какви санкции могат да бъдат приложени. Прокурорите просто подчертават, че социалните мрежи са причинили значителни вреди на децата, отчасти защото правителствените регулатори са действали твърде бавно. И сега, отбелязват те, правителството се е поучило от тези грешки.
Спомнете си, че OpenAI ще бъде съдена за самоубийството на тийнейджър, след което компанията обеща да промени ChatGPT.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
