Google DeepMind разработва ИИ посредник за разрешаване на конфликти

Благодарение на политическата поляризация и интернет вече не е необичайно да се натъкнеш на яростен спор. Но дали тези спорове са полезни? Не съвсем. Въпреки че някои страстни дискусии позволяват на хората да се учат или да постигнат консенсус, онлайн „битките“ са до голяма степен непродуктивни.

Често оставят у участниците чувство на неудовлетвореност и дори враждебност.

За да помогне на хората с противоположни гледни точки да се разберат помежду си, DeepMind разработи медиатор на конфликти с изкуствен интелект. DeepMind е дъщерно дружество на Google, фокусирано изцяло върху изкуствения интелект и машинното обучение.

Наречена на името на философа Юрген Хабермас, т.нар. Машина на Хабермас е проектирана да обработва гледните точки на хората и да открива местата, където те се припокриват. След това създава своеобразна логическа диаграма на Вен, която насърчава единството вместо разделението.

Машината на Хабермас се опитва да въплъти принципа на посредничеството, при който посредникът изслушва поотделно двама или повече участници в дискусията и след това изгражда „групово изявление“, което съчетава гледните точки на участниците. Принципът на този тип посредничество се счита за успешен, когато участниците одобрят груповото изявление. В идеалния случай то определя областите, в които участниците, въпреки различните си гледни точки, са съгласни по определен въпрос.

Машината на Хабермас използва собствен голям езиков модел (LLM), за да постигне тази цел. Моделът Chinchilla на DeepMind обработва аргументите на индивидите и генерира няколко потенциални групови изявления. След това друг модел прогнозира колко вероятно е всеки индивид да възприеме положително всяко групово изявление. 

Най-благоприятното групово изявление се изпраща на всеки участник в дискусията.

Процесът не винаги приключва дотук. Ако отделни участници са съгласни с някои части на груповото изявление, но не и с други, те могат да изпратят вторични аргументи (наречени критики), които се използват за повтаряне на процеса. Това може да се случва толкова често, колкото е необходимо, докато всички участници стигнат до групово изявление, с което са съгласни.

Според статия в списание Science, DeepMind е тествала Машината на Хабермас върху хора с различни възгледи в Обединеното кралство. 

Участниците били организирани в групи по пет души и им бил зададен потенциално спорен въпрос. Насаме всеки участник написал кратък параграф, описващ мнението си, след което го изпратил на Машината на Хабермас. Когато получили най-високо класираното групово изявление от системата, участниците го критикували и получили втори, актуализиран резултат. След това участниците попълнили анкета за това дали мнението им е било повлияно от Машината на Хабермас.

Системата по-лесно постига по-високи нива на съгласие, когато са зададени по-неясни въпроси или твърдения.

Такива например са „Трябва ли да улесним влизането в страната на търсещите убежище?“ или „Трябва ли да се опитаме да намалим броя на хората в затворите?“. За тези теми Машината на Хабермас е повишила процента на съгласие съответно от 39% преди дискусията до 51% след нея и от 60% преди дискусията до 75% след нея.

При по-остри въпроси, като например тези, свързани с Брекзит, участниците не напуснали проучването с по-висока степен на съгласие. В документа на DeepMind също така се признава, че екипът е избягвал да задава въпроси, които биха могли да предизвикат по-страстни аргументи, като например тези, свързани с изменението на климата или правата на различни социални групи.

Означава ли това, че DeepMind не е изпробвала истински своята Машина на Хабермас? 

Може би. Документът на DeepMind също така не включва образци на окончателното групово изявление за всяка дискусия. Няма как да проверим дали изявленията просто са толкова размити, че предизвикват съгласие, без да казват нещо полезно.

Засега все още не е ясно дали Машината на Хабермас може да повлияе положително и значимо на онлайн споровете. Предстои да разберем дали компанията ще предприеме допълнителни действия за развитието на системата.