Твърде глупаво, изтриват го. Прекалено умно – също. Как живее Wikipedia в ерата на изкуствения интелект

Wikipedia официално влезе в битката с изкуствения интелект.

Уикипедия официално прие нова политика, насочена към борбата с притока на текстове, създадени от невронни мрежи. Това решение има за цел да защити качеството на енциклопедията от бързо множащото се нискокачествено съдържание, чиято поява стана възможна благодарение на наличието на генеративен ИИ. Новото правило позволява на администраторите незабавно да премахват статии, в които ясно личат следи от машинен произход, без да се налага да преминават през обичайната многоетапна процедура на обсъждане.

Обикновено процесът на изтриване на страница в Уикипедия отнема около седмица и изисква публично обсъждане сред редакторите. За типичните случаи обаче, в които нарушенията на политиката са очевидни, съществува ускорен механизъм, наречен „бързо изтриване“. Преди това той се прилагаше за безсмислени набори от думи, реклами и други очевидни отклонения от енциклопедичния формат. Сега към списъка са добавени и текстовете, съставени от езикови модели, при условие че са изпълнени две основни характеристики.

Първата е наличието в текста на фрази, които показват, че той е генериран от изкуствен интелект и е предназначен не за читателя, а за този, който е задал първоначалното запитване. Примери за такива фрази са: „Ето вашата статия по темата…“, „към датата на последното обучение на модела…“ или „като голям езиков модел не мога…“. Тези конструкции показват, че текстът не е бил дори бегло прегледан преди публикуването му. Подобни сигнали вече са използвани за идентифициране на генеративно съдържание в научните статии и социалните медии, а сега са в основата на политиката на Уикипедия.

Вторият критерий е съзнателно погрешни или фалшиви източници. Езиковите модели често „халюцинират“ – измислят несъществуващи препратки или заместват реални, но напълно несъотносими към темата. Примери за това са случаите, когато научна статия за бръмбари се цитира като източник по информатика или когато хипервръзките водят към нерелевантни или празни страници.

Според Иляс Леблеу, автор на инициативата, подобни статии са цифров боклук, който подкопава процесите на съвместно редактиране. Той подчертава, че за разлика от хората, които могат да създават лошо съдържание в ограничени количества, невронните мрежи го правят масово и за броени минути, нарушавайки самата същност на процедурите на уики, основани на дискусия и консенсус.

Преди това общността се е опитвала да въведе по-широки мерки срещу съдържание, създавано от изкуствен интелект, но те не са били подкрепени поради трудността за надеждно разпознаване на машинния текст. Новият подход се основава на ясни знаци, а не на догадки. Това го прави работещ компромис: той елиминира най-очевидните прояви на проблема, без да се занимава с граничните случаи, при които произходът на текста не може да бъде доказан със сигурност.

Лебльо признава, че мярката е временна и е по-скоро „лепенка“, отколкото системно решение. Въпреки това, казва той, тя вече дава на модераторите конкретен инструмент и за първи път официално утвърждава принципа, че статиите, безразсъдно копирани от езикови модели без проверка, са несъвместими с духа на Уикипедия. Той също така напомня, че проектът не живее по строги правила – всяко решение може да бъде преразгледано, когато технологиите и общественото мнение се променят.