ИИ реши да опрости Уикипедия и почти я съсипа

Нещо се обърка с изкуствения интелект и това усетиха всички, които вярват в ръчния труд.

The Wikimedia Foundation временно спря експеримента с автоматичното генериране на кратки резюмета на статии, които се показваха на потребителите на Wikipedia в началото на страницата.

Причината беше рязкото и почти единодушно недоволство на общността от редактори, които сметнаха тази инициатива за вредна за репутацията и принципите на проекта.

Самите резюмета бяха създадени с помощта на модела Aya на компанията Cohere и се показваха в браузърното разширение на Wikipedia.

Те се появиха в горната част на статията с жълта маркировка „Unverified“ и се разгръщаха при кликване. Официално експериментът започна на 2-ри юни и първоначално трябваше да продължи две седмици, да бъде доброволен и да засяга мобилната версия на сайта. Но след бурята от негативни коментари, той беше бързо прекратен.

Много от членовете на общността остро реагираха на въвеждането на генеративния ИИ. Един от редакторите нарече експеримента директна обида за интелигентността на читателите, като подчерта, че Уикипедия се е превърнала в символ на надеждност и сдържаност именно поради ръчния си подход и премахването на „шаренията“ и алгоритмичното представяне на информацията. Той заяви, че проектът рискува да загуби доверието и да „опетни десетилетията работа по политиките за надеждност“.

Редакторите масово оставяха едносрични и остри отзиви, вариращи от „абсолютно не“ до „най-лошата идея в историята“. Основното оплакване беше, че един-единствен автоматично генериран текст, изнесен в горната част на страницата, разрушава модела на колективното редактиране и не оставя място за алтернативни мнения, като по този начин нарушава принципа на неутралната гледна точка. Според участниците в дискусията това противоречи на идеята за уики-платформата като жива и съвместна енциклопедия.

Експериментът с наименование „Simple Article Summaries“ беше предложен след дискусии на конференцията Wikimania 2024, където имаше идеи за използване на машинно перифразиране за опростяване на сложните текстове. Дори поддръжниците на идеята обаче отбелязаха необходимостта от прозрачно етикетиране на съдържанието с изкуствен интелект и система за модериране, която да улеснява сигнализирането за грешки или неточности.

Говорител на фондацията заяви, че целта е да се направят сложните статии по-достъпни за читатели с различни нива на познания. Същевременно беше подчертано, че въвеждането на ИИ в работата на Уикипедия ще бъде възможно само при активното участие на редакторите и наличието на инструменти за контрол.

По-късно представител на проекта потвърди, че диалогът с общността не е бил достатъчно ясен и прозрачен. Според него дискусията е трябвало да започне отрано на техническата платформа VPT – още през март, за да се подготвят редакторите и да се инициира пълноценно обсъждане.

Въпреки че експериментът е спрян, фондацията подчертава, че все още има интерес към потенциала на генеративния изкуствен интелект. Всички бъдещи проекти обаче ще бъдат реализирани само с участието на общността и с отчитане на опита от настоящата ситуация. Окончателното решение за разработването на такива функции ще бъде взето съвместно с редакторите, а не едностранно.

Семантичната стойност на Уикипедия стана особено важна във времената на масово ИИ съдържание, което задръства интернет. Докато големите платформи като Google се стремят да внедрят автоматизирани обобщения, Уикипедия остава остров на ръчния труд и проверената информация. И ако се съди по реакцията на общността, нейните членове са готови да се борят, за да запазят тези принципи.

През октомври 2024 г. група ентусиазирани редактори на Уикипедия стартираха нов проект, наречен WikiProject AI Cleanup. Тяхната цел е да се противопоставят на притока на нискокачествено съдържание, създадено от изкуствения интелект. Инициативата е насочена към идентифициране и премахване на лошо написаните или неточни текстове, които биха могли да влошат цялостното качество на информацията в платформата.