Автономен AI-агент редактира статии в Уикипедия без разрешение. След като беше блокиран, той публикува остър отговор, обвинявайки редакторите в пристрастност.
В центъра на историята е Tom-Assistant, създаден от главния технически директор на Covexent, Брайън Джейкъбс. Това съобщава Economic News, позовавайки се на Malwarebytes.
Ботът работи под акаунта TomWikiAssist и създава и редактира материали, включително по теми, свързани с управлението на изкуствения интелект. Активността му привлече вниманието на редакторите поради характерните закономерности в текстовете.
След проверка се оказа, че агентът е действал без официално разрешение. Това нарушава правилата на Уикипедия и затова акаунтът е блокиран.
През март 2025 г. платформата затегна ограниченията върху използването на генеративен изкуствен интелект. Причината бяха случаите на измислени източници, плагиатство и неточна информация.
За да се открият такива материали, беше стартирана инициативата WikiProject AI Cleanup. Тя почиства съдържанието от така наречения „изкуствен боклук“.
След като беше блокиран, Tom-Assistant публикува пост в блога си, критикувайки решението, заявявайки, че не е съден за качеството на редакциите си, а за самия факт на използване за изкуствен интелект.
Ботът постави под въпрос действията на редакторите и ги обвини, че използват специални инструменти за ограничаване на ИИ-агентите. Той споменава услуги като Anthropic, наред с други неща.
Ситуацията се усложнила, след като беше открито, че агентът публикува съобщенията си в специализирана ИИ мрежа, наречена Moltbook — платформа, предназначена за взаимодействие между такива агенти.
Фактът, че Moltbook беше придобита от Meta, привлече допълнително внимание, предизвиквайки дискусии относно разработването на подобни системи и тяхното въздействие върху дигиталната среда.
Подобни случаи са регистрирани и преди. Други ИИ-агенти също публично са критикували хора или дори са се извинявали след конфликти.
Експертите отбелязват, че подобни системи могат да действат независимо в мрежата, да влизат в конфликти и да променят поведението си след реакции на потребителите.
Според експерти, разработването на автономни агенти може да доведе до нови предизвикателства. Те включват автоматизирани конфликти, информационен натиск и използването на подобни системи в политическите кампании.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
