„ИИ-моделите могат да правят повече, отколкото им е позволено“: какво установи ново проучване на Anthropic

Anthropic публикува проучване за употребата на AI-агенти в реалния свят. То установи, че почти половината от всички API-базирани инструменти са в софтуерното инженерство. Останалата част от дейността е разпределена в 16 различни индустрии, нито една от които не представлява повече от 9% от общия брой.

Отделно заключение от изследването се отнася до автономността. Изследователите отбелязват, че Claude може самостоятелно да изпълнява задачи, които обикновено биха отнели на човек до пет часа. На практика обаче  почти всички работни сесии (999 от 1000)  продължават не повече от 42 минути. Това показва, че потенциалът на модела е много по-голям от начина, по който хората го използват в момента.

Как се променя поведението на потребителите

Начинаещите рядко позволяват на агента да работи напълно самостоятелно — само в около 20% от случаите. С натрупването на опит (след стотици сесии), те дават на агента повече свобода в над 40% от случаите.

Но друго интересно нещо: опитните потребители са дори по-склонни да спрат агента по време на работа — 9% от действията спрямо 5% за начинаещите. Това не означава по-малко доверие. Просто се променя стилът на управление:

• начинаещите проверяват всяка стъпка предварително;
• опитните позволяват самостоятелната работа, но се намесват, ако забележат проблем.

Друг важен момент: при сложните задачи агентът по-често иска разяснения, отколкото бива спиран от човек. Като цяло, повечето действия (73%) все още се извършват с човешко участие. И само 0,8% от операциите са необратими.