Instagram ще предупреждава родителите, ако тийнейджъри търсят съдържание за самонараняване и самоубийство

Родителите, които използват инструментите за надзор над деца в Instagram, скоро ще започнат да получават сигнали, ако техният тийнейджър многократно търси термини, свързани със самоубийство или самонараняване в платформата.

Това е първият път, в който компанията майка Meta ще предупреждава проактивно родителите за търсения на вредни материали от страна на децата им в Instagram, вместо просто да блокира търсенията и да насочва потребителите към външна помощ.

Родителите и тийнейджърите, които са регистрирани в програмата „Teen Accounts“ (Тийнейджърски профили) в Обединеното кралство, САЩ, Австралия и Канада, ще започнат да получават уведомления за тези сигнали от следващата седмица, като останалата част от света ще ги последва на по-късен етап.

Въпреки това, благотворителната организация за превенция на самоубийствата „Molly Rose Foundation“ остро критикува мерките, предупреждавайки, че те „биха могли да нанесат повече вреда, отколкото полза“.

„Недодялано съобщение“ и рискове

„Това недодялано съобщение е изпълнено с риск и ние сме загрижени, че принудителното разкриване на информация може да донесе повече вреда, отколкото полза“, заяви изпълнителният директор на организацията Анди Бъроуз.

Организацията е основана от семейството на Моли Ръсел, която посегна на живота си през 2017 г. на 14-годишна възраст, след като е гледала съдържание за самонараняване и самоубийство в платформи, включително Instagram.

Бъроуз подчерта, че „всеки родител би искал да знае дали детето му изпитва затруднения, но тези несигурни уведомления ще оставят родителите паникьосани и лошо подготвени за чувствителните и трудни разговори, които ще последват“.

От Meta заявяват, че сигналите до родителите за търсене на материали за самоубийство и самонараняване в кратки интервали от време ще бъдат придружени от експертни ресурси, които да им помогнат да преминат през сложните разговори.

Джед Флин, изпълнителен директор на благотворителната организация „Papyrus Prevention of Young Suicide“, сподели, че макар да приветстват съобщението на Instagram, Meta „пренебрегва реалния проблем – че децата и младите хора продължават да бъдат засмуквани от един мрачен и опасен онлайн свят“.

„Родителите се свързват с нас всеки ден, за да споделят колко са притеснени за децата си в интернет“, каза той пред BBC. „Те не искат да бъдат предупреждавани, след като децата им вече са потърсили вредно съдържание; те не искат то да бъде поднасяно на децата им от безчувствени алгоритми.“

Бъроуз също цитира предишно изследване на фондацията, което показва, че Instagram все още „активно“ препоръчва вредно съдържание за депресия, самоубийство и самонараняване на „уязвими млади хора“.

„Отговорността трябва да бъде върху справянето с тези рискове, вместо да се прави поредното цинично планирано съобщение, което прехвърля топката на родителите“, добави той.

Meta оспори констатациите на организацията, публикувани миналия септември, заявявайки, че те „представят погрешно усилията ни да овластим родителите и да защитим тийнейджърите“.

Повишен контрол

Сигналите в „Teen Accounts“ на Instagram са проектирани да уведомяват родителите, ако настъпи внезапна промяна в поведението на детето им и в навиците му за търсене в платформата.

В публикация в блога си Meta заяви, че мерките надграждат съществуващите защити за тийнейджъри в Instagram, които включват скриване на материали, свързани със самоубийство или самонараняване, и блокиране на търсения за опасно съдържание. Сигналите ще бъдат изпращани до родителите по имейл, текстово съобщение, WhatsApp или в самото приложение Instagram, в зависимост от контактната информация, с която Meta разполага.

Meta признава, че новите сигнали – произтичащи от анализ на моделите на търсене – могат понякога да предупреждават родителите дори когато няма повод за безпокойство, като компанията ще „залага на предпазливостта“.

Самир Хиндуджа, съдиректор на Изследователския център за кибертормоз, заяви, че такъв сигнал „очевидно“ би бил тревожен за всеки родител. Той обаче допълни пред BBC: „Това, което има значение, не е само самият сигнал, а качеството и полезността на ресурсите, които родителите получават веднага, за да ги насочат какво да правят по-нататък.“

„Не можете просто да изпратите уведомление на родител и да го оставите сам, и изглежда Meta разбира това“, добави Хиндуджа.

Instagram съобщава, че през следващите месеци ще се опита да приложи подобни сигнали и ако тийнейджърите обсъждат самонараняване и самоубийство с техния AI чатбот, тъй като децата „все по-често се обръщат към изкуствения интелект за подкрепа“.

Социалните медии са подложени на нарастващ натиск от правителствата по целия свят да направят платформите си по-безопасни за децата. В началото на годината Австралия забрани социалните медии за лица под 16 години, като Испания, Франция и Обединеното кралство обмислят подобни стъпки.

Междувременно регулаторите и законодателите внимателно проучват бизнес практиките на големите технологични компании спрямо младите потребители. Шефът на Meta Марк Зукърбърг и ръководителят на Instagram Адам Мосери наскоро се появиха в съда в САЩ, за да защитят компанията срещу твърденията, че тя е насочена към по-младите потребители.