Изненада: AI агентите на AWS програмират в продължение на дни без човешки надзор

На годишната си конференция re: Invent уеб услугите на Amazon представиха „крайни агенти“ – автономни AI системи, които могат да работят денонощно без постоянна човешка намеса, извършвайки пълния цикъл на разработване и поддръжка на софтуера. Агентите самостоятелно координират задачите, управляват хранилищата с код и гарантират сигурността. Така например в една банка DevOps агент диагностицира сложен мрежов проблем за по-малко от 15 минути, докато при ръчно изпълнение това би отнело няколко часа.

Новият клас от така наречените гранични агенти са предназначени не за петминутни действия, а за дълга, непрекъсната работа. Те запазват паметта си между сесиите, учат се от базата с код и документацията на компанията и могат да изпълняват многоетапни процеси, които продължават с дни. AWS ги описва като пълноправни членове на виртуални екипи, които сами определят обхвата на задачите си, планират работата и координират действията си в различни хранилища и услуги.

Компанията Amazon представи три специализирани агента:

• Kiro е виртуален разработчик: съхранява контекста на базата данни, обработва pull-requests, работи с множество файлове и се интегрира с GitHub, Jira, Slack и вътрешната документация. Изпълнява задачите самостоятелно до завършването им или до поискване от страна на човек.
• AWS Security Agent автоматизира сигурността: преглежда документацията на проекта, сканира промените за съответствие с политиките за сигурност и превръща pentest (тест за проникване) от многоседмичен процес в операция по заявка, извършвана за часове.
• AWS DevOps Agent действа като постоянен член на оперативния екип: свързва се със системите за мониторинг (CloudWatch, Datadog, Dynatrace, New Relic, Splunk), бързо диагностицира инцидентите и използва натрупаните знания, за да открие първопричините.

Пилотните внедрявания на крайните агенти вече показват впечатляващи резултати. Например, фотоплатформата SmugMug използва AWS Security Agent, който идентифицира грешка в бизнес логиката, която е била невидима за други инструменти, предотвратявайки потенциално излагане на данните на риск. В Commonwealth Bank of Australia агентът DevOps успя да диагностицира сложен мрежов проблем за по-малко от 15 минути – задача, която обикновено изисква часове работа от опитни инженери.

AWS подчертава, че високата автономност на агентите е съчетана с прозрачен контрол. Всички техни действия и натрупани знания се записват и са на разположение на инженерите: могат да се преглеждат логовете, знанията могат да се изтриват или коригират, стъпките на агента могат да се проследяват в реално време, а изпълнението може да се спира или пренасочва. В същото време нито един агент не може да разгърне кода в производството без окончателно потвърждение от човек.

В допълнение към агентите AWS представи множество други нови продукти. Първо, линия от четири модела Nova, всеки от които е оптимизиран за различна задача – разсъждаване, мултимодалност, диалог и генериране на код. Второ, Amazon Bedrock добави към платформата си още 18 модела с отворен уеб интерфейс, включително решения от Mistral AI, Google, NVIDIA и други разработчици. Новите сървъри EC2 Trn3 UltraServers, базирани на първия 3nm AI чип на AWS, съчетават до 144 чипа Trainium3 в една система, като осигуряват 4,4 пъти по-висока производителност и 4 пъти по-добра енергийна ефективност в сравнение с предишното поколение. Представена беше и AI Factorys – инфраструктура за внедряване на системи за изкуствен интелект директно в центровете за данни на клиентите.

Съобщението се състоя на фона на напрегната конкуренция: Google и Microsoft активно разработват свои собствени инструменти за AI програмиране, а GitHub Copilot продължава да се развива. AWS разчита на 20-годишен оперативен опит в областта на облачната инфраструктура и натрупани практики в поддръжката на мащабни приложения, за да преведе агентите от етапа на прототипа до пълноценни производствени системи.