Процедурната памет може да намали разходите и сложността на AI агентите

Новата технология Memp, разработена от китайските учени, предоставя на LLM агентите динамична памет, което ги прави по-ефективни при решаването на сложни задачи. Тази „процедурна памет“ се актуализира постоянно с натрупването на опитa подобно на начина, по който хората се учат чрез действия. Memp създава система за непрекъснато учене, при която агентите, които поемат нова задача, не трябва всеки път да започват от нулата. Възможността за постепенно усъвършенстване е ключово изискване за автоматизацията на предприятията.

LLM агентите са способни да поемат и автоматизират сложни, многоетапни бизнес процеси. На практика обаче целият процес може да бъде нарушен от непредвидими събития, като например сривове в мрежата, промени в потребителския интерфейс или схемите за данни. За агентите с изкуствен интелект това обикновено означава да започнат работа отначало, което отнема много време и ресурси.

В същото време много сложните задачи, въпреки повърхностните различия, имат дълбоки структурни прилики. Изследователите отбелязват, че вместо всеки път тези модели да се учат отново, агентът трябва да може да извлича и използва повторно опита си от предишните успехи и неуспехи. Това изисква специална, дългосрочна „процедурна памет“, която при хората отговаря за умения като писане на машина или каране на велосипед. Тези умения, веднъж станали автоматични, се губят много трудно.

Memp е независима от задачите софтуерна платформа, която разглежда процедурната памет като основен компонент, който трябва да бъде оптимизиран. Тя се състои от три основни етапа, работещи в непрекъснат цикъл: създаване, извличане и актуализиране на паметта. Паметта се формира въз основа на предишния опит на агента или „траекториите“. Разработчиците са изследвали съхраняването на тези спомени в два формата: дословни описания на действията стъпка по стъпка или трансформиране на тези действия в абстракции от по-високо ниво, подобни на скриптове. За да извлече данни, агентът търси в паметта си най-подходящите минали преживявания.

Най-важният компонент на платформата е механизмът за актуализация. Memp предлага няколко стратегии за осигуряване на еволюцията на паметта на агента. Тъй като агентът изпълнява повече задачи, паметта му може да се актуализира чрез просто добавяне на нов опит, филтриране само на успешните резултати или, най-ефективно, анализиране на неуспехите с цел коригиране и преразглеждане на първоначалната памет.

Резултатите от тестовете показват, пише Venture Beat, че създаването и извличането на процедурни спомени позволява на агента да преразгледа предишния си опит. Агентите, оборудвани с Memp, не само са постигнали по-добра производителност, но и са станали много по-ефективни. Те се избавиха от безплодните търсения и методите „проба-грешка“, което доведе до значително намаляване както на броя на стъпките, така и на потреблението на токените, необходими за изпълнението на дадена задача.

Едно от най-важните открития за корпоративните приложения беше възможността за пренасяне на процедурната памет. В един експеримент процедурната памет, генерирана от мощния GPT-4o, беше пренесена на много по-малкия модел Qwen2.5-14B. В резултат на това по-малкият модел показа значителни подобрения в производителността: вероятността за успешно изпълнение на задачите се увеличи, а броят на необходимите стъпки за изпълнението им намаля.

Това означава, че знанията могат да бъдат придобити от най-съвременен модел и след това да бъдат използвани в по-малки и по-икономични модели, без да се губят предимствата на опита.