Учени създадоха алгоритъм, който намалява токсичността на социалните мрежи без цензура

Нов инструмент, разработен от изследователи в Станфордския университет, може да намали политическата враждебност в социалните медии, без да премахва съдържание или да сътрудничи с платформата.

Проучване, публикувано в списание Science, показва, че потребителите могат да влияят на алгоритмите на социалните медии, като променят реда, в който показват съдържанието. Инструментът, създаден от интердисциплинарен екип, автоматично понижава рейтинга на публикациите във фийда на потребителя, които са с признаци на антисистемни настроения или враждебност към опонентите. В експеримент с 1200 участници, такава модифицирана емисия е повлияла положително върху отношението им към представители на другата политическа партия, независимо дали са либерални или консервативни.

Както подчерта професор Майкъл Бърнстейн, „ние показахме, че изследователите и потребителите могат да получат контрол над алгоритмите, които преди това бяха изключително в ръцете на платформите.“ Инструментът не блокира информацията, а позволява да се промени нейното въздействие, намалявайки емоционалното влияние и манипулативните или радикални публикации. Този подход, според изследователите, помага за намаляване на враждебността и развиване на доверие между различните политически лагери.

Авторите на изследването са се позовавали на предишни социологически трудове, които идентифицират типичните признаци на политическа токсичност: призиви за насилие, отказ за сътрудничество между партиите, игнориране на факти, които противоречат на собствената позиция, или оправдаване на нарушения на демократичните принципи. Подобни послания предизвикват незабавна негативна емоционална реакция, отбелязва психологът Жана Цай: „това съдържание привлича вниманието, защото веднага причинява емоционален дискомфорт.“

Инструментът, който използва изкуствен интелект и разширение за браузър, ви позволява да пренаредите фийда си за секунди. Не се изтриват публикации, променя се само позиционирането им. В резултат на това участниците в експеримента, които са видели по-малко радикално съдържание, не само са се отнасяли по-добре към опонентите си, но и са отчитали по-ниски нива на гняв и тъга.

„Когато участниците виждали по-малко радикално съдържание, отношението им към опонентите им ставало по-топло. Когато виждали повече, напротив, те ставали по-студени“ — обясни Тициано Пикарди, първият автор на изследването. Промените в оценките след 10 дни от експеримента били равни на това, което обикновено се случва в обществото за три години. Това показва, че дори малка техническа намеса може да има значителен социален ефект.

Екипът планира да адаптира допълнително метода за подобряване на психичното здраве и проучва други възможности за интервенция. Кодът на инструмента е с отворен код, което позволява на други изследователи и разработчици да създават свои собствени системи за класиране, независими от алгоритмите на социалните медии.

Разберете също, как няколко онлайн потребители карат интернет и човечеството да изглеждат по-лоши, отколкото са. Изследвания стигат до заключението, че по-голямата част от токсичното съдържание в социалните мрежи се създава от 10% от потребителите.