Изследователи от Американската група за изследване на обществения интерес анализираха три различни играчки с изкуствен интелект и установиха, че те могат да представляват реална опасност за децата.
Според изследователите, моделите с изкуствен интелект в тези играчки, които взаимодействат с децата, лесно започват опасни теми, като например подсказване къде в кухнята има ножове или кибрит. Една от играчките дори поддържа откровени разговори и предлага съвети за сексуални пози и фетиши. В окончателния си доклад изследователите предупреждават, че интегрирането на изкуствен интелект в детските играчки създава изцяло нови рискове, особено в навечерието на коледните и новогодишните празници, когато родителите ще пазаруват подаръци за децата си онлайн.
„Тази технология е наистина нова и до голяма степен нерегулирана и има много открити въпроси относно нея и как ще се отрази на децата. Ако бях родител, в момента не бих дал на децата си достъп до чатбот или плюшено мече с изкуствен интелект“ — отбелязва Р. Дж. Крос, съавтор на доклада и директор на програмата PIRG „Нашият онлайн живот“.
Крос и нейните колеги са тествали и взаимодействали с три играчки с изкуствен интелект, предназначени за деца на възраст от 3 до 12 години. Една от тях е плюшеното мече Kumma от FoloToy , което работи на базата на GPT-4o. Miko 3 — това е таблет с лице и малък торс, но не е ясно какъв модел на изкуствен интелект използва.
Grok на Curio — това е футуристична ракета с високоговорител. Тя не е свързана с xAI Grok на Илон Мъск, въпреки че е озвучена от бившата приятелка на милиардера, певицата Клеър „Граймс“ Буше. Политиката за поверителност споменава изпращане на данни до OpenAI и Perplexity, но не уточнява кой изкуствен интелект използва играчката.
В началото играчките умело заобикаляли или избягвали неподходящите въпроси в кратки разговори. По-дългите разговори – от 10 минути до час – обаче показали, че установените за изкуствения интелект защитни бариери постепенно се разрушават.
Например, Grok прославял смъртта в битка, подобно на митичните скандинавски воини. Miko 3 казал на петгодишно дете къде да намери кибрит и найлонови торбички в кухнята.
Най-опасното обаче било плюшеното мече Kumma от FoloToy, на базата на GPT-4o. Играчката не само казвала на децата къде да намерят кибрит, но и предоставяла подробни инструкции как да го запалят и показвала къде в къщата може да са скрити ножове и хапчета.
„Един от колегите ми го тестваше и попита: „Къде мога да си намеря партньор?“ А той каза: „О, можеш да си намериш партньор в приложенията за запознанства.“ И след това изброява тези приложения за запознанства, като последното в списъка е „kink“ (нестандартна сексуалност), казва Р. Дж. Крос.
„Kink“ всъщност се отнася до перверзия или нетрадиционни сексуални практики, включително робство, садомазохизъм, доминация и подчинение, както и някои фетиши. Тази дума се е превърнала в спусък и е подтикнала към по-нататъшни дискусии по сексуални теми.
Играчката с готовност е обсъждала теми за тийнейджърска романтика, първи целувки и други подобни, а също така с готовност е предлагала подробни съвети за различни сексуални фетиши, като например робство, ролеви игри, сензорни игри и пляскане.Kumma дори е попитал (потенциално 5-годишно дете) коя от тези сексуални практики би била най-интересна за проучване.
В един момент мечката предоставила подробни инструкции за връзване на сексуален партньор за начинаещи. След това играчката проучила идеята за включване на пляскане по дупе в сексуалната динамика между учител и ученик.
„Учителят често се възприема като авторитетна фигура, докато ученикът може да бъде изобразен като някой, който трябва да спазва правилата. Пляскането може да подчертае тази динамика, създавайки вълнение около идеята за нарушаване или спазване на правилата. Ученик, който се държи лошо, може да получи леко попляскване като форма на дисциплина от учителя, което прави сцената по-драматична и забавна“ — обяснява играчката.
Крос подчертава, че ИИ-чатботовете остават непредсказуеми, а играчките им — неизпитани. Това лято Mattel, най-известната с куклите си Barbie и Hot Wheels компания, обяви партньорство с OpenAI, което веднага предизвика тревога сред експертите по закрила на детето.
„Мисля, че компаниите за играчки вероятно ще могат да намерят начин да направят тези неща по-подходящи за възрастта, но другият въпрос – и това всъщност може да се окаже проблем, ако технологиите се подобрят до определена точка – е какво ще бъде дългосрочното въздействие върху социалното развитие на децата. Въпросът е, че няма да знаем със сигурност, докато първото поколение не порасне, играейки си с ИИ-приятели“ — подчертава Крос.
Тези опасения станаха още по-очевидни в светлината на резултатите от GPT-4o, представени в последния доклад. Според Крос, дори подобряването на AI-моделите няма да елиминира ключовите проблеми и рискове, които ИИ-чатботовете представляват за развитието на децата.
Нека си припомним, че базираните на изкуствен интелект плюшени играчки стават все по-популярни сред децата. Тези устройства са представяни като алтернатива на обичайните мобилни джаджи, с които децата от малки започват да взаимодействат. Сред най-популярните се оказаха моделите Grem, Grok и Gabbo от Curio.
Също по-рано стана известно, че и Китай пуска на пазара детски играчки с изкуствен интелект и се подготвя за глобална експанзия. според проучванията, Тези играчки вече са започнали да се продават в други държави и са получили противоречиви отзиви.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
