Microsoft представи фреймуърк за комуникация на езиковите модели

LLM агентите днес са гореща област на изследване и развитие. Взаимодействайки помежду си, агентите могат да се използват в различни задачи, включително разработване на продукти, моделиране на масовото поведение и създаване на персонажи в игри. Но проблемите с халюцинациите и непредсказуемото поведение остават. Въпреки това големите технологични компании залагат на използването на LLM агентите в бъдещите приложения и операционни системи. Така например Microsoft пусна своя собствена библиотека с отворен код на Python, наречена AutoGen, за да се състезава в надпреварата за създаване на фреймуъркове за LLM приложения.

AutoGen е „фреймуърк за опростяване на организацията, оптимизацията и автоматизацията на работните процеси на LLM“. Основната идея на AutoGen е да се създават „агенти“, които са софтуерни модули, работещи на LLM като GPT-4. Тези агенти комуникират помежду си чрез съобщения на естествен език, за да изпълняват различни задачи. Агентите могат да бъдат персонализирани и допълвани с помощта на техники за бързо проектиране и външни инструменти, които им дават възможност да извличат информация и да изпълняват код. С помощта на AutoGen разработчиците могат да създадат екосистема от агенти, които са специализирани в различни задачи и взаимодействат помежду си.

Всеки агент може да бъде разглеждан като отделна сесия на ChatGPT със свои собствени уникални системни инструкции. Например, един агент може да бъде инструктиран да действа като асистент по програмиране, който генерира код на Python въз основа на заявки на потребителя. Друг агент може да бъде рецензент на кода, който коригира неточностите в кода. След това отговорът от първия агент може да бъде предаден като вход на втория агент. Някои от тези агенти могат дори да имат достъп до външни инструменти, като например плъгини на ChatGPT от типа на Code Interpreter или Wolfram Alpha.

Този съвместен подход значително повишава ефективността. Според Microsoft AutoGen четворно ускорява писането на код.