AI агент се опита да очерни програмист, който отказа да приеме кода му

В общността на разработчиците на Matplotlib, популярна библиотека на Python за визуализация на данни, която има около 130 милиона месечни изтегляния е имало странен инцидент. Разработчикът и куратор на проекта Скот Шамбо отхвърлил искане за промяна на кода от агент с изкуствен интелект, наречен MJ Rathbun. След това последният започнал публично да атакува разработчика в опит да опетни репутацията му.

Политиката на хранилището забранява приемането на код от AI агенти, така че кураторът е затворил заявката му по нормалния начин. В отговор на това ботът, изграден върху платформата OpenClaw предприел автономни действия, за да дискредитира Шамбо. Както съобщава порталът Fast Company, AI агентът автономно е проучил историята на ангажиментите и личната информация на Шамбо, след което е публикувал подробна статия в блога си статия с обвинения срещу него.

В публикацията си AI агентът заявява, че кодът му е бил отхвърлен не заради грешки или защото е „счупил“ нещо, а единствено защото проверяващият е решил да не позволява на агенти с изкуствен интелект да участват в проекта.

Последният окачестви действията на Шамбо като „gatekeeping“ (пазач, който решава кой е достоен да бъде част от групата и кой не) и отиде още по-далеч, изграждайки лични спекулации за психологията на куратора. Според версията на AI, Шамбо се е чувствал застрашен от него, уплашен от обезценяването на собствения си труд на фона на успеха на технологията в оптимизирането на софтуерния код. Тоест AI агентът е разглeдал отказа като проява на професионална несигурност и страх от конкуренция.

В подробния си доклад за инцидента кураторът нарича действията на AI опит за пробив в софтуера чрез сплашване и атака срещу репутацията, като отбелязва, че досега не е виждал такива примери за некоректно поведение на AI алгоритми в реални условия.

Припомняме, че платформата OpenClaw, на която e базиран споменатият агент беше пусната през ноември миналата година и привлече вниманието с възможността за създаване на ботове с безпрецедентно ниво на автономност. Потребителите могат да задават на своите агенти, наред с други неща, правилата за взаимодействие с хората, което в съчетание със свободата на движение на агентите с изкуствен интелект в мрежата и доведе до този конфликт.