Когато съдържанието се превръща в боклук. Как изкуственият интелект унищожава интернет

Популярността на генеративните чатботове с изкуствен интелект не се дължи само на активното им използване от студенти, копирайтъри и топ-мениджъри. Разрастването на „синтетичното“ съдържание, създадено от тях, буквално трови интернет.

Появата на ChatGPT и неговите аналози беше истинска находка за студенти, ученици, блогъри и маркетолози. Хора, чиито задължения включваха писане на текстове, започнаха да използват AI ботовете по един или друг начин. Някои търсеха идеи и подобряваха собствените си текстове, други използваха AI по-„инвазивно“ и просто представяха работата на AI за своя. Резултатът беше появата в мрежата на голям брой синтетични или изкуствено генерирани текстове.

Как Уикипедия се отказа от изкуствения интелект

„Следи“ от изкуствен интелект в мрежата са се появявали под различни форми. Например, в края на 2024 г. в Уикипедия се появи статия за несъществуващ обект, наречен Амберлисихар. В нея се разказва за османската крепост от 13-ти век, дава се историята на създаването ѝ и се обяснява подробно къде се намира. В действителност обаче такава крепост и такъв обект никога не са съществували. А статията е резултат от глобална халюцинация на един от чатботовете с изкуствен интелект, а редакторите на Уикипедия я публикуват публично и тя става достъпна за всички интернет потребители.

Историята на Амбърлисихар е най-известният пример за работата на AI-ботовете върху създаването на съдържание в такъв уникален краудсорсинг проект като Уикипедия. Ето защо, след като много медии писаха за Амбърлисихар, авторите на енциклопедията инициираха проекта WikiProject AI Cleanup. Целта му е да почисти Уикипедия от AI-боклука. Интересното тук е, че опитните редактори на проекта не бяха готови за факта, че на сайта ще започне да се появява синтетично съдържание и че дългогодишната система за колективни редакции и препоръки няма да може да го открие в самото начало. Вероятно твърде много редактори на проекта са се превърнали във вратичка, през която AI съдържанието буквално се е „промъкнало“, и то в такава лоша форма.

Година по-късно, през 2025 г., обаче, Уикипедия отново се сблъска с негативните прояви на синтетичното съдържание на своите страници. В началото на юни енциклопедията започна да тества функция за резюмиране на дългите статии, която работеше с помощта на изкуствен интелект. Потребителите на смартфони можеха да виждат резюмета с изкуствен интелект на статиите, които ги интересуват. Тази функция обаче беше достъпна само за няколко дни, след което беше изоставена. Основната причина беше, че създадените резюмета се оказаха некачествени, не разкриваха същността на статиите и понякога бяха откровени лъжи. Уикимедия и организацията, която управлява Уикипедия, заяви, че търси начини да използва изкуствения интелект в работата си, но в сегашния си вид тази опция носи само вреда и разрушава доверието в проекта. Един от редакторите дори предупреди, че това би „причинило незабавни и необратими щети на нашите читатели и репутацията ни на надежден източник“.

Моделният колапс и ИИ-замърсяването

Значителният ръст на синтетичните текстове в мрежата, т.е. тези, които са генерирани от изкуствен интелект, има отрицателни последици за самите модели на изкуствен интелект. В даден момент ИИ-чатботовете започват да се учат от собственото си „генерирано“ съдържание. В крайна сметка, за да работят успешно инструментите с изкуствен интелект, трябва да „се учат“ — да четат огромни обеми текстове. В определен момент синтетичните текстове попадат между „човешките“ текстове за обучение, а изкуственият интелект се учи от това, което AI е генерирал преди това. В този случай инструментите с изкуствен интелект постепенно губят информация за рядко използваните, но важни блокове от данни и стават твърде предсказуеми. Поне така авторите на научна статия в Nature оцениха това явление на обучение на изкуствения интелект върху генерираните от ИИ данни. В резултат на такова обучение качеството на данните страда. Съответно, бъдещите модели започват да произвеждат все по-монотонни и грешни текстове. Това явление се нарича „колапс на модела“ или „ИИ замърсяване“ на данните. Авторите на статията в Nature обясняват, че поради прекомерната ИИ-изация на съдържанието, изкуственият интелект започва да „неправилно възприема реалността“ и неговите халюцинации — грешките, които възникват при генериране на съдържание, и неговите пристрастия се увеличават значително. Все още не е ясно дали AI-замърсяването ще доведе до генериране на изключително дигитален боклук от него, но е ясно, че ще стане по-трудно за обучение на следващите модели.

Експертите въвеждат и свързани термини. Някои изследователи наричат ​​този проблем Model Autophagy Disorder (MAD), което означава, че моделите започват да „консумират“ собственото си съдържание и да се деградират с течение на времето. Учените подчертават, че „всеки, който използва генеративен ИИ, замърсява един-единствен пул от данни за всички“. Те допълнително предупреждават, че ако „всички ваши данни са напълно замърсени, ще бъде изключително скъпо и почти невъзможно да се почистят“. По този начин, дори от техническа гледна точка, опасността се крие не само в откровено неправилните отговори сега, но и в дългосрочната ерозия на данните за обучение.

Как изкуственият интелект подвежда — Google AI Overviews

Не само енциклопедиите страдат от неправилната работа на изкуствения интелект. След глобална актуализация на Google Search през май 2024 г., най-популярната търсачка започна да предлага на потребителите обобщения с изкуствения интелект в началото на резултатите от търсенето — обобщение на отговорите на заявките за търсене. Потребителите обаче бързо забелязаха техните недостатъци и дори очевидни грешки. През първите седмици на работа медиите активно публикуваха хиляди скрийншотове на странни и грешни отговори, което предизвика ирония и безпокойство.

Мениджърът за търсенето Лиз Рийд призна, че системата наистина е дала „някои странни, неточни или безсмислени“ отговори и появата на такива грешки е била очаквана. В крайна сметка алгоритмите на платформата за търсене комбинират различни фрагменти от интернет и сред тях може да има очевидни грешки, които могат да бъдат потенциално опасни. Например, една от най-известните беше показването на отровни гъби сред ядливи. Друг резонансен пример беше запитването „колко мюсюлмански президенти на САЩ е имало?“: Google AI Overviews отговори, че „единият е Барак Обама“, напълно игнорирайки факта, че Обама не е мюсюлманин.

С течение на времето компанията подобри работата на AI Overviews, но не се отказа от тази опция. На конференцията за разработчици Google I/O през май 2025 г. гигантът в областта на интернет търсенето обяви още повече услуги, свързани с дълбоката интеграция на изкуствения интелект, и дори измисли как да монетизира AI Overviews. Въпреки това, предвид нарастващото замърсяване с изкуствен интелект, това може да доведе до ситуация, в която търсенето в Google ще греши по-често или ще отговаря само на често задавани въпроси, с които AI моделите са запознати.

Други примери за разпространение на нискокачествено съдържание с изкуствен интелект

Замърсяването с изкуствен интелект се проявява и в нарастването на нискокачественото съдържание, създадено с изкуствен интелект, за потребителите. Например, голям брой фалшиви книги, създадени с помощта на изкуствен интелект, се появиха в Amazon — това беше предупредено от общността на авторите. Престъпници пишат книги с помощта на изкуствен интелект, издават „справочници“ или „пътеводители“, а понякога авторите на истински книги са откривали измамни „резюмета“ на своите произведения в Amazon още на следващия ден след издаването. Тези „книги“ не съдържат оригинално съдържание, а само преразказват очевидни факти, често в съкратен вариант. Въпреки че Amazon се опитва бързо да премахне това съдържание, системата за модериране на проекта очевидно не се справя с техния наплив.

Текстовете, генерирани от изкуствен интелект в социалните мрежи и форуми, не са изненада за никого днес, но администрациите на подобни ресурси трябва да се борят с тези потоци от спам, породен от изкуствения интелект, а професионалните форуми като ресурса за ИТ-специалисти Stack Overflow са особено засегнати от това.

Най-опасният резултат от замърсяването с изкуствен интелект обаче са потоците от политически фалшиви съобщения, задвижвани от изкуствен интелект, които съществуват както под формата на дийпфейкове, така и във вид на голям брой изкуствено генерирани съобщения в социалните медии.

(Не)светлото ИИ-бъдеще на интернет

Ситуацията със замърсяването от изкуствен интелект ще се влошава всяка година. В края на краищата, днес интернет вече е пълен със съдържание, създадено изцяло или частично от ИИ-чатботове. Според експерти на Европол, до 2026 г. делът на новото онлайн съдържание, създадено с помощта на изкуствен интелект, ще достигне 90%. Вече няма съмнение, че експлозивната вълна от AI-технологии ще замърси онлайн-средата с огромни количества синтетични данни. Проблемът е как да се справим с това предизвикателство и как да намалим въздействието на синтетичните данни върху новите езикови модели и ИИ-чатботовете.

Един от начините за решаване на този проблем биха могли да бъдат правила, които изискват ясно етикетиране на синтетичните данни на локално ниво (когато се публикуват в социалните мрежи или в медиите) и създаването на големи набори от „чисти“ (несинтетични) данни на глобално ниво – от компании, които обучават големи езикови модели и създават AI-чатботове.

Учените, които изучават създаването на модели на изкуствен интелект, също говорят за необходимостта от появата на „чисти“ хранилища за данни. Морис Киодо, научен сътрудник в Центъра за изследване на екзистенциалните рискове към университета в Кеймбридж и един от авторите на статията за чистотата на ИИ-данните, е убеден, че именно „чистите човешки“ данни са ценни не само заради съдържанието на информацията, но и заради стила, креативността и разнообразието на реалните човешки комуникации.

В момента, въпреки всички предупреждения, замърсяването на информационното пространство само нараства, а теорията за мъртвия интернет, според която съдържанието на мрежата все повече се състои от AI-съдържание, става все по-реалистична. Ако не се предпазим днес от доминацията на синтетичното съдържание, което влияе върху работата на AI-чатботовете в бъдеще, тогава самото развитие на изкуствения интелект може да стигне до задънена улица. В противен случай интернет ще се превърне от източник на знания в огледална стая с безкрайни отпечатъци от безсмислени машинни думи.

В скорошно проучване се оказа, че чатботовете са най-популярни сред по-слабо образованите слоеве от населението. Изследването е установило, че ИИ-чатботовете се използват предимно за написването на до една четвърт от корпоративните съобщения, потребителските жалби и обявите за работа. Установено е също, че ИИ особено активно намира приложение в регионите с по-ниско ниво на образование и е достигнало 19,9%, в сравнение със 17,4% в по-образованите райони. Ако се доближим до момент, в който качеството на генерираното от ИИ съдържание чувствително се влоши, това означава, че хората, които го използват и му се доверяват ще стават все повече.