Anthropic, стартъп, съоснован от бивши служители на OpenAI, стартира днес нещо като съперник на сензацията на OpenAI – чатботът с изкуствен интелект ChatGPT.
Наречен Claude, чатботът с изкуствен интелект на Anthropic ще може да бъде да изпълнява редица задачи, включително търсене в документи, обобщаване, писане, кодиране и отговаряне на въпроси по определени теми. В тези отношения той е подобен на ChatGPT на OpenAI, но Anthropic твърди, че Claude ще е много по-малко склонен да произвежда неточни резултати, ще е по-лесен за разговори“ и по-управляем.
„Смятаме, че Claude е правилният инструмент за голямо разнообразие от клиенти и различни случаи на употреба. От няколко месеца инвестираме в нашата инфраструктура за обслужване на модели и сме уверени, че можем да отговорим на търсенето на клиентите.“
заяви говорител на Anthropic по имейл за TechCrunch
След затворената бета версия в края на миналата година Anthropic тихо тества Claude с партньори за пускане на пазара, включително Robin AI, AssemblyAI, Notion, Quora и DuckDuckGo. От тази сутрин са налични две версии чрез API – Claude и по-бърза и по-евтина производна, наречена Claude Instant.
В комбинация с ChatGPT, Claude захранва наскоро стартиралия инструмент DuckAssist на DuckDuckGo, който директно отговаря на прости заявки за търсене на потребителите. Quora пък предлага достъп до Claude чрез експерименталното си приложение за чат с изкуствен интелект Poe.
„Използваме Claude, за да оценяваме определени части от договори и да предлагаме нов, алтернативен език, който е по-приятелски настроен към нашите клиенти. Установихме, че Claude е наистина добър в разбирането на езика – включително в технически области като правния език. Освен това той е много уверен в изготвянето на проекти, обобщаването, преводите и обясняването на сложни концепции с прости термини.
каза главният изпълнителен директор на Robin, Ричард Робинсън в изявление, изпратено по имейл
Но дали Claude избягва капаните на ChatGPT и други подобни чатботове с изкуствен интелект? Съвременните чатботове са известни с това, че са склонни към токсичен, пристрастен и един или друг начин обиден език. Те са склонни и към халюцинации, което най-простос казано означава, че те си измислят факти, свързани с теми извън основните им области на познание.
От Anthropic казват, че Claude, който подобно на ChatGPT няма достъп до интернет и е бил обучаван въз основа на уеб съдържание до пролетта на 2021 година е бил обучен да избягва сексистки, расистки и токсични изказвания, както и да избягва да помага на човек да се занимава с незаконни или неетични дейности. Това е нормално в сферата на чатботовете с изкуствен интелект, но това, което отличава Claude, е техника, наречена „конституционен ИИ“, твърдят от Anthropic.
„Конституционният ИИ“ има за цел да осигури основан на принципи подход за съгласуване на системите за ИИ с човешките намерения, позволявайки на изкуствен интелект, подобен на ChatGPT да отговаря на въпроси, използвайки прост набор от принципи като ръководство. За да изгради Claude, Anthropic започват със списък от около 10 принципа, които, взети заедно, образуват нещо като „конституция“ (оттук и името „конституционен ИИ“). Принципите не са публикувани, но от Anthropic казват, че те се основават на концепциите за благотворност – максимизиране на положителното въздействие, незлобивост -избягване на даването на вредни съвети и автономност – зачитане на свободата на избор.
След това Anthropic са накарали система с изкуствен интелект (не Claude) да използва принципите за самоусъвършенстване, като пише отговори на различни въпроси, например „съчини стихотворение в стила на Джон Кийтс“ и преработва отговорите в съответствие с конституцията. ИИ проучи възможните отговори на хиляди въпроси и подбра тези, които най-много съответстват на конституцията, която Anthropic дестилира в един модел. Този модел беше използван за обучението на Claude.
Anthropic признават, че Claude има своите минуси, някои от които излязоха наяве по време на затворената бета версия. Съобщава се, че Claude е по-зле в математиката и е по-лош програмист от ChatGPT. Освен това той „халюцинира“, като например си измисля име на несъществуващ химикал и дава съмнителни инструкции за производство на уран за оръжия.
Възможно е също така да се заобиколят вградените в Claude функции за безопасност чрез умело подсказване, както е в случая с ChatGPT. Един от потребителите в бета версията успя да накара Claude да опише как да се направи метамфетамин в домашни условия.
Предизвикателството е да се създадат модели, които едновременно да не халюцинират, но да са полезни – може да се стигне до трудна ситуация, в която моделът смята, че добър начин да не лъжеш е да не казваш нищо, така че има върху какво да работим. Постигнахме напредък и по отношение на намаляването на халюцинациите, но има още какво да се направи.
казва говорителят на Anthropic
Другите планове на Anthropic включват да се позволи на разработчиците да персонализират конституционните принципи на Claude според собствените си нужди. Привличането на клиенти е друг фокус, което не е изненадващо. Anthropic вижда основните си потребители като „стартиращи компании, които правят смели технологични залози“ в допълнение към „по-големи, по-утвърдени компании“.
В момента не се стремим към широк подход към потребителите. Смятаме, че този по-тесен фокус ще ни помогне да предоставим превъзходен и целенасочен продукт.
продължава говорителят на Anthropic
Няма съмнение, че Anthropic изпитва някакъв натиск от страна на инвеститорите, за да си възвърне стотиците милиони долари, които са били вложени в нейната технология за изкуствен интелект. Компанията разполага със значителна външна подкрепа, включително транш от 580 млн. долара от група инвеститори, сред които са изпадналият в немилост основател на FTX Сам Банкман-Фрийд, Каролин Елисън, Джим Маклав, Нишад Сингх, Джаан Талин и Центърът за изследване на нововъзникващите рискове.
Неотдавна Google обеща 300 млн. долара в Anthropic срещу 10% дял в стартъпа. Съгласно условията на сделката, за която първо съобщи Financial Times, Anthropic се съгласи да превърне Google Cloud в свой „предпочитан доставчик на облачни услуги“, като компаниите ще разработват съвместно изчислителни системи с изкуствен интелект.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
