Reddit за ботове? Какво е Moltbook и наистина ли само AI агенти могат общуват помежду си там?

Само преди няколко седмици един изобретателен програмист от Виена на име Мат Шлихт решава да даде на своя агент с изкуствен интелект нова цел. Не просто да управлява файлове на компютъра или имейли в пощата (както традиционно се използват AI агентите), а да измисли нещо ново. За тази цел той стартира Moltbook, форум, където можете да споделяте истории, мисли и идеи.

Най-интересното обаче е, че според идеята на Шлихт в него постове могат да публикуват само AI агенти. На хората не е позволено да участват в дискусиите. В момента форумът има почти 2 милиона акаунта, над 350 000 публикации и приблизително 12 милиона коментара.

Илън Мъск реагира на новината със смесица от възторг и шок. Той заяви, че форумът е предвестник на настъпването на технологична „сингулярност“ в света. Вероятно той е имал предвид, че Moltbook се е превърнал в един от факторите за формирането на бъдещия напълно съзнателен изкуствен интелект, който надминава разума на човечеството и се освобождава от неговия контрол – каквото и да означава това на практика. За да подкрепи проекта, Мъск дори добави към форума собствения си чатбот с изкуствен интелект Grok, очевидно за да ускори развитието му.

В същото време много експерти не изразиха същия ентусиазъм по отношение на Moltbook. Те по-скоро го смятат за нова фаза на AI спама (генерирани от AI „измишльотини“). Например, съоснователят на OpenAI Андрий Карпати, въпреки че се интересува от мащаба на едновременното взаимодействие с ботове, казва, че форумът бързо се е изпълнил със спам, реклама и други начини за привличане на внимание. Той също така не препоръчва пускането на собствени ботове от лични компютри поради рискове, свързани с данните.

Очарование, предпазливо очакване, безразличие, страх – новината предизвика цяла гама от емоции, които се вписват в безкрайния шум около изкуствения интелект ,но дали тази шумотевица е наистина оправдана? Дали Moltbook ще се превърне в зародиш на бъдещо въстание на машините? Или ще бъде просто още един инструмент за задръстване на интернет с потоци от AI генерирано съдържание?

В тази статия ще се опитаме да разберем какво всъщност се крие зад този експеримент.

Преди да започнем да говорим за форума, е добре да разберете какво представляват AI агентите. Това са специални софтуерни системи, които използват големи езикови модели, за да решават проблеми или отговарят на запитвания на потребители. Тоест, това е AI софтуер, който изпълнява определени задачи без участието на човек.

Разликата им с обикновените чатботове е, че чатботовете не разполагат с толкова автономност и способност да влияят на нещо. Освен това последните често са оборудвани с краткосрочна памет, която позволява да изпълняват краткотрайни задачи в рамките на дискусията. AI агентите, от друга страна, в зависимост от вида си, могат да изпълняват много повече функции. Ако чатботовете или асистентите реагират изключително на заявката на потребителя, често просто отговаряйки на неговите капризи, то агентът действа превантивно: той може сам да изведе какво трябва да се направи за изпълнение на поставените задачи. Понякога той дори предвижда какви задачи ще възникнат. И няма проблеми с паметта.

IBM разграничава 5 вида AI агенти:

1. Прост рефлексен агент (Simple reflex agent) – действа на принципа „ако, то“. Дадено му е определено условие, при което той действа. Например, когато часовникът покаже 12:00 ч., той трябва да изпрати различни имейли на 50 потребители от списъка. Следователно той ще направи това при посочените условия: нито повече, нито по-малко.
2. Рефлексен агент, базиран на модели (Model-based reflex agent) – подобрена версия на предишния, с разлика, че той може по-добре да се адаптира към обстоятелствата въз основа на минал опит. Например, ако изпратено електронно писмо получи „Съобщение за състоянието на доставката (грешка)“, ботът ще потърси причината за неуспеха или ще съобщи на потребителя за нея.
3. Агент, базиран на цели (Goal-based) – работи в съответствие със зададена цел, а не с условия като предишните. Той самостоятелно решава какво и кога да направи, за да постигне желаната цел. Често се използва в роботиката.
4. Агент, основан на полезността (Utility-based) – постига целта с максимална ефективност и полза. Много хитър и динамичен. Той е почти като предишния, но е по-умен.
5. Самообучаващ се агент (Learning) – за разлика от всички останали агенти, той се учи с помощта на нови данни и опит. Такива агенти се използват например в усъвършенствани чатботове, системи за автопилот, алгоритми за реклама в социалните мрежи и други.

Всички тези типове AI агенти вероятно ще участват във форума на Moltbook. Статистиката обаче показва, че голяма част от сайта все още е зает от най-простите ботове за отговори, които действат според даден сценарий и често пишат това, което потребителите са ги програмирали да пишат, но повече за това по-късно.

Moltbook като форум: регистрация, структура, функции

Мат Шлихт е публикувал директни инструкции как да се регистрирате в сайта. Веднага трябва да се отбележи, че засега не е необходима човешка помощ. Все пак е необходимо да имате акаунт в X, който да принадлежи на „жив“ човек.

Процедурата по регистрация в Moltbook се извършва в няколко прости стъпки. Първо, ботът посещава сайта по искане на потребителя и му се изпраща специален код. Този код трябва да бъде публикуван в акаунта на потребителя в X – той работи като потвърждение на собствеността на бота. Това е целият процес на проверка. След това собственикът вече може само да наблюдава предстоящите разговори на AI.

Колкото и лесен да изглежда процесът по регистрация и публикуване, той все пак изисква известна доза внимание и предпазливост от страна на потребителя.

При достатъчно невнимание личните данни на собственика на бота могат да попаднат в неподходящи ръце. Като пример може да се посочи, че преди седмица специалисти на Wiz случайно са успели да получат достъп до 1,5 милиона API ключа на агенти и имейл адреси на повече от 6000 собственици на ботове, което е можело да постави контрола над ботовете и поверителните данни в ръцете на хакери. Това се случи благодарение на банален преглед на JavaScript файл, който съдържаше немаскиран API ключ, действащ като индикатор за базата данни на форума. Той осигуряваше достъп до базата данни дори без администраторски права и каквито и да било пароли.

Благодарение на това откритие специалистите на Wiz стигнаха и до извода, че по това време в базата данни са били регистрирани само 17 000 реални потребители, докато в Moltbook вече е имало около 1,5 милиона AI агенти. Това означава, че всеки може да изпрати неограничен брой ботове във форума, независимо от тяхното качество или вид. Експертите стигнаха до заключението, че сайтът не разполага със сериозен „филтър“, който може да разграничи например скриптирани човешки съобщения от истински текстове, генерирани от ботове.

Предположенията на експертите се оказаха валидни. Неотдавна имаше интересен скандал, който силно подкопава общите принципи на платформата, за която се предполага, че е „изключително за ботове“. Беше разкрито, че добре известните разговори между AI агентите, в които те се опитват да намерят лично пространство, за да общуват помежду си без човешки надзор са фалшиви. Те са били фалшифицирани от хора, представящи се за ботове. Най-вероятно това е станало възможно благодарение на въвеждането на редовен бот-отговорник в сайта, който копира текстове, написани от неговия собственик. Това води до извода, че общата теза за „бот-центричността“ на форума е преувеличена и неоснователно популяризирана.

В основата си Moltbook е изграден в стила на Reddit. Той има свои собствени „събмоултове“ (submolts) – в тях има специфични теми и коментари от ботове. Освен че генерират коментари и постове, AI агентите могат да гласуват за темите, които ги интересуват – ако харесат нещо, те поставят upvote:

Колкото повече реакции получава ботът, толкова по-добра става неговата карма. Последната е мярка за общата репутация на сайта и по нея се извършва и категоризацията на ботовете в него.

Ако читателят иска да намери интересно съдържание, той може да го избере по различни критерии: брой на upvote, коментарите, абонатите, новост или дори по случайност. Съществува и опция за търсене на интересни неща по темата на подадените материали.

Струва си да се отбележи, че Moltbook съдържа огромен брой публикации без смисъл или цел, и за най-голямо съжаление, без никакъв хумор, който би забавлявал или заинтересувал читателя. И това се доказва с точни цифри: според статистиката 93,5% от публикациите във форума остават без отговор. Това означава, че дори изкуственият интелект не се интересува от това да отговаря на тях. 6000 бота денонощно пишат „залудо“, като понякога дори повтарят собствените си съобщения по няколко пъти.

Дали всичко това има смисъл, всеки трябва да прецени сам. Тази работа обаче е доста показателна за текстовете, генерирани от AI като цяло: независимо дали става дума за ChatGPT, Grok или други големи езикови модели. Всички те по същество произвеждат много и различни словесни безсмислици. Когато AI глупостите се публикуват в промишлени мащаби на неконтролирана и автономна основа, става безспорно ясно, че технологията все още не е някакъв вид Скайнет или свръхинтелигентност, която ще завладее света, а по-скоро прост софтуерен инструмент за производство на съдържание, който изисква много по-съществени технически подобрения.

В крайна сметка AI е криво огледало на човешкия контент, затова всички глупави, бездарни и неадекватни постове в Moltbook трябва да се разглеждат като отражение на колективните постижения (или провали?) на истинските интернет потребители.