Anthropic пусна ИИ-агент на Claude за Google Chrome – само 1000 души имат достъп до него в целия свят

Anthropic обяви пускането на предварителна версия на браузърния AI-агент, задвижван от моделите на Claude. От предложението в момента се възползват ограничено количество хора — около 1000 абоната на плана Max на Anthropic, който струва между 100 и 200 долара на месец; останалите заинтересовани потребители са в списъка на чакащите.

AI-агентът се инсталира в Chrome чрез разширение, което отваря страничен прозорец, където можете да чатите с чатбота Claude, в контекста на случващото се в браузъра. Потребителят може да предостави на AI-агента разрешение да извършва определени действия от негово име. Anthropic предупреждава, че възходът на AI-агентите е изпълнен с нови заплахи за сигурността, една от които беше открита наскоро в браузъра Perplexity Comet.

Компанията се надява да откривие и отстрани новите уязвимости като част от тестовата програма. Например, внедрени са няколко защити срещу атаки с „инжектиране на заявки“, които са налични във вид на злонамерени инструкции към изкуствения интелект в страницата на разглеждания сайт; предприетите мерки са помогнали за намаляване на процента им на успеваемост от 23,6% на 11,2%. Достъпът на агента до определени сайтове може да бъде ограничен в настройките му; по подразбиране той е блокиран за ресурсите, предлагащи финансови услуги, материали за възрастни и пиратско съдържание. Освен това, Claude иска разрешение от потребителя, преди да „извършва високорискови операции като публикуване, закупуване или споделяне на лични данни“.

Миналата година Anthropic пусна AI-агент за управление на компютър, но на практика той се оказа бавен и ненадежден. Оттогава възможностите на тази технология са се подобрили значително — Comet и ChatGPT Agent са напълно способни да изпълняват прости задачи.