6.7 C
София

Учени разработват софтуер, който се справя с интернет-хулиганите

Най-четени

Методи Дамяновhttps://www.kaldata.com/
В "Калдата" от 2012г. насам. С интереси в сферата на информационната и интернет сигурност, дисруптивните технологии (IoT, AI, облак), видеоигрите с душа и послание и интернет свободата. Фен на Кен Ливайн, Ричард Столман и Джон Пери Барлоу.

Интелигентен софтуер засича онлайн-тормоза посредством система, която може да регистрира обидни коментари.

„Обиждана съм през целият си живот. За това как изглеждам. Не мога да си намеря приятел, защото отказвам да правя секс преди сватбата си. Просто не знам какво да правя вече. …:\“ – Саманта, шестнадесетгодишна.

Отчаяни коментари, като този се появяват в социалната мрежа и интернет-форумите постоянно. Написани са обикновено от тинейджъри, които прекарват целият си живот онлайн.

Да знаеш, че не си сам помага.

Това е идеята, която стои зад нов софтуерен продукт. Той успява да сравни сходни постове от отчаяни тинейджъри, като ги информира, че това, което изпитват не е нищо необичайно. Освен това, той може да засече хулиганско поведение в Мрежата.

Наскоро няколко случая свързани с интернет-хулиганството стана тема на първите страници на вестниците.

През януари, 15-годишната Аманда Даян Къмингс, почина след като се хвърли под автобус в Ню Йорк. Тя беше обект на хулиганска спам-кампания във Фейсбук, организирана от ученици от нейното училище.

Миналият септември, Джейми Рудемайър, петнадесетгодишно момче от Бъфало, Ню Йорк, се самоуби, след като бе подиграван и обиждан в Мрежата относно своята сексуална ориентация.

Подобни случаи принудиха законодателите в САЩ, да изготвят законопроект, минал успешно през Сената миналата седмица, който инкриминира кибер-хулиганството.

Върху справянето с този проблем, Картик Диканар и колегите и от MIT (Massachusetts Institute of Technology) са се заели с анализа на постове, пускани в сайта поддържан от MTV, A Thin Line. Интернет-страницата приканва тинейджъри да споделят проблемите си анонимно, а други тинейджъри могат да ги съветват. Голяма част от постовете засягат темите за тормоз и притеснения свързани със секса.

Всеки от анализираните 5500 поста бяха прекарани през алгоритъм, чието предназначение е да разпознава определени групи от думи, а след това да категоризира всеки пост под повече от 30 теми, които варират от „продължение на връзка“ до „използва голи снимки на приятелка“. Така например, думите „гадже“, „доверие, „изневяра“, „късам“, „разстроен“, срещащи се в един и същ пост разкриват, че става дума за прекъсване на връзка.

След определянето на „етикет“ за дадената категория, алгоритъма се отправя към друга история на сайта, която покрива подобни теми.

„Всички тези тинейджъри все още израстват в емоционално отношение, и те много често си мислят, че това, което изпитват, не го изпитват други хора“, казва Динакар.

„Този механизъм ще им позволи да знаят, че не са сами в проблема си.“

Програмата е била тествана от доброволци, като са използвани истории, написани от самите тях. Софтуерът е анализирал техните истории и ги е сравнил с тези от сайта. Доброволците са били впечатлени от софтуера.

Системата е била представена на конференция посветена на въпросите свързани със социалните медии в Дъблин, Ирландия, по-рано този месец.

От MTV планират да започнат да използват програмата на своя сайт.

Но може ли изкуственият интелект да спре онлайн-насилниците? След смъртта на Аманда Къмингс, страницата във Фейсбук, посветена на смъртта и, беше изпълнена с обидни коментари, което разстрои неимоверно много родителите и. Динакар е насочила усилията си в разработването на именно такъв софтуер – който засича онлайн-тормоз.

За да може да открие не толкова остри форми на тормоз, Динакар е разработила софтуер, който сравнява онлайн-постове към база данни с отворен код наречена ConceptNet. Това е мрежа от словосъчетания и думи и връзката между тях, която позволява на компютрите да „разбират“ за какво си говорят хората. Системата може даже да открие обиден коментар без той да съдържа обидни думи.

Така например, изречение като: „Сложи си прическа и червило и бъди, този, който искаш да си“ насочено към момче, може да се възприеме като негативен коментар за неговата сексуалност, понеже системата „знае“, че момичетата използват червило. Не момчетата.

Идеята е тази, че софтуер, като този, би могъл да бъде интегриран в социална мрежа. Ако забележи хулиганско поведение, той може да предупреди човека, отправил въпросния коментар, да трие подобни коментари или да предложи съвет на жертвите.

Това, което иска да направи Динакар е да обедини двата проекта. Изследването се появи в списание „ACM Transactions on Interactive Intelligent Systems“ през юли.

Абонирай се
Извести ме за
guest
9 Коментара
стари
нови
Отзиви
Всички коментари

Нови ревюта

Подобни новини