Claude AI от Anthropic вече може да изчете цяла книга за секунди

Входната памет на Claude нараства до 75 000 думи, побеждавайки GPT-4 с голяма разлика.

Компанията за изкуствен интелект Anthropic обяви, че е дала на своя подобен на ChatGPT езиков модел Claude AI способността да анализира материал с обем на цяла книга за по-малко от минута. Това ново подобрение идва от разширяването на контекстния прозорец до 100 000 токена или около 75 000 думи.

Подобно на GPT-4 на OpenAI, Claude е голям езиков модел (LLM), който работи, като предвижда следващия токен в последователност, когато му бъде даден определен вход. Токените са фрагменти от думи, използвани за опростяване на обработката на AI данни, а „контекстният прозорец“ е подобен на краткосрочната памет – колко входни данни, предоставени от човека, LLM може да обработи наведнъж.

По-голям контекстен прозорец означава, че LLM може да разглежда по-големи произведения като книги или да участва в много дълги интерактивни разговори, които обхващат „часове или дори дни“.

Средностатистическият човек може да прочете 100 000 токена текст за около 5 часа и след това може да му трябва значително повече време, за да усвои, запомни и анализира тази информация. Сега Claude може да направи това за по-малко от минута. Например, ние заредихме целия текст на The Great Gatsby в Claude-Instant (72K токена) и променихме един ред, за да кажем, че г-н Карауей е „софтуерен инженер, който работи върху инструменти за машинно обучение в Anthropic“. Когато помолихме модела да забележи какво е различното, той отговори с правилния отговор за 22 секунди.

коментираха от Anthropic

Въпреки че може да не звучи впечатляващо да избирате промени в текст (Microsoft Word може да направи това, но само ако има два документа за сравнение), помислете, че след като подадете на Claude текста на Великия Гетсби, AI моделът може да отговори интерактивно въпроси за него или да анализира значението му. 100 000 токена е голямо надграждане за LLM. За сравнение, GPT-4 LLM на OpenAI може да се похвали с дължина на контекстния прозорец от 4 096 токена (около 3 000 думи), когато се използва като част от ChatGPT, и 32 768 токена чрез GPT-4 API.

Според Anthropic, уголеменият контекстен прозорец може потенциално да помогне на бизнеса да извлече важна информация от множество документи чрез разговорно взаимодействие. Компанията предполага, че този подход може да надмине методите, базирани на векторно търсене, когато се работи със сложни заявки.

Въпреки че не е толкова голямо име в AI като Microsoft и Google, Anthropic се очертава като забележителен съперник на OpenAI по отношение на конкурентни предложения в LLMs и API.

Бившият вицепрезидент на OpenAI за изследвания Дарио Амодей и неговата сестра Даниела основаха Anthropic през 2021 г. след несъгласие относно търговската посока на OpenAI.

По-специално, Anthropic получи инвестиция от 300 милиона долара от Google в края на 2022 г., като Google придоби 10 процента дял във фирмата.