Социалните мрежи са залети от ботове: Сам Алтман се оплака, че интернет е станал изкуствен заради ИИ

Днес е станало невъзможно да се определи дали публикациите в социалните мрежи всъщност са написани от хора или от ИИ-чатботове, оплака се Сам Алтман, ръководител на OpenAI, в социалната мрежа X.

Алтман е забелязал това, когато е разглеждал публикации в Reddit относно услугите за кодиране, задвижвани от изкуствен интелект, Anthropic Claude Code и OpenAI Codex. Общността е създала толкова много теми за прехода си от Claude Code към Codex, че Алтман се е учудил колко от тези публикации всъщност са написани от реални хора. Той отбелязва няколко тенденции, които правят все по-трудно разграничаването на публикациите, написани от хора и тези, написани от изкуствен интелект.

Самите хора все по-често започват да копират езиковия стил на изкуствения интелект, в резултат на което границата между тях се размива и в двете посоки. Блогъри и ентусиасти, които прекарват изключително дълго време онлайн (Extremely Online), са започнали да действат заедно, едновременно публикувайки подобни материали, защото са подтикнати към това от алгоритмите на социалните медии. Това се проявява например в стандартните цикли на тенденциите: в началото новите продукти се посрещат с ентусиазъм, който внезапно се заменя със също толкова единодушна критика; а също и във факта, че повечето автори в социалните мрежи, в стремеж към монетизация, публикуват ексцентрични публикации, зад които искреността е все по-малко видима.

В правилните ръце всички тези механизми могат да се превърнат в „астротурфинг“ — имитация на обществена подкрепа за определено мнение – и г-н Алтман лично е преживял този ефект от конкурентите на OpenAI. Като едно от неговите проявления ръководителят на компанията е посочил шума около не особено успешното пускане на пазара на флагманския голям езиков модел GPT-5. Малко след пускането му Алтман е провел серия от въпроси и отговори в Reddit, в които признава някои проблеми, но не успява да възстанови предишното ниво на доверие. „В резултат на това има усещането, че AI-Twitter и AI-Reddit са станали някак неестествени, което не беше така преди година-две“ — оплака се ръководителят на OpenAI.

Вярно е, че е трудно да се определи делът на написаните от изкуствен интелект публикации в Reddit, но той може да е значителен: според проучване, проведено от компанията за киберсигурност Imperva , повече от половината от целия интернет трафик през 2024 г. няма да бъде генериран от човек и това до голяма степен се дължи на AI-моделите. Според една от версиите, Алтман се е обърнал към този въпрос, защото OpenAI подготвя собствена социална мрежа, но е малко вероятно тя да може да гарантира, че подобна платформа също няма да бъде населена с ИИ-ботове.