DeepSeek-V4: Новият китайски гигант с 1 милион токена контекст атакува лидерството на OpenAI

Откакто през януари миналата година DeepSeek пусна модела за разсъждаващ изкуствен интелект DeepSeek-R1 и получи широко одобрение, не са пускани големи актуализации. От време на време в интернет се появяват слухове за нов модел на ИИ от DeepSeek, но изглежда, че през следващия месец ще бъде пуснат мултимодалният модел DeepSeek-V4, който ще получи значителни подобрения в сравнение с предишната версия.

Според изданието Weixin екипът за разработване на DeepSeek, ръководен от съоснователя Лианг Уенфън, през последните шест месеца е работил за отстраняване на недостатъците на DeepSeek по отношение на обработката на визуално съдържание и за подобряване на търсенето с изкуствен интелект. Компанията се е стремяла да подобри способността на модела за изкуствен интелект да генерира програмен код, а също така е работила по разширяването на контекстуалния прозорец. DeepSeek започна да си сътрудничи с Baidu още през миналата година, за да постигне целите си.

Потребителите на професионални платформи по целия свят се опитват да уловят следите от новата версия на DeepSeek. Преди няколко дни алгоритмите Healer Alpha и Hunter Alpha се появиха в OpenRouter, най-големия агрегатор на API за модели на изкуствен интелект. Моделът Healer Alpha е мултимодален езиков модел, който може да възприема визуална и аудио информация, да извършва крос-модални разсъждения и да изпълнява многостъпкови задачи с висока точност. В същото време размерът на контекстния прозорец на алгоритъма е само 260 хил. лексеми. Hunter Alpha е проектиран специално за агентно-базирани приложения. Той представлява модел с трилиони параметри и контекстен прозорец от 1 милион лексеми. В описанието се казва, че алгоритъмът може да се справи добре с дългосрочното планиране, сложните разсъждения и непрекъснатото изпълнение на многостъпкови задачи. Той може да следва точно инструкциите, които получава, което е важно при работа с фреймуърки като OpenClaw за създаване на агенти с изкуствен интелект.

На фона на появата на тези два езикови модела в социалната мрежа X отново се надигна вълна от дискусии за предстоящото пускане на DeepSeek-V4. Ако се съди по предишните публични съобщения за DeepSeek-V4 обаче, моделът има десетки трилиони параметри, контекстен прозорец от 1 милион лексеми и възможност за разбиране и генериране на мултимодални данни, т.е. обработка и създаване на текст, изображения и видео. Това означава, че характеристиките на най-новите алгоритми на OpenRouter не съответстват напълно на очакваните параметри на DeepSeek-V4.

Според тази информация посоката на развитие на следващата версия на DeepSeek е свързана с подобряване на дългосрочната памет, считана за една от най-важните характеристики на езиковите модели. През последните шест месеца Лян Уенфън е съавтор на три научни статии, свързани, наред с другото, с проучването на начините за подобряване на дългосрочната памет на езиковите модели.

Резултатите от изследванията на Уенфън и неговия екип показват и ясна траектория на технологично развитие. След като са валидирали парадигмата на обучение чрез подсилване за способностите за разсъждаване в DeepSeek-R1, разработчиците проучват по-нататъшни иновации в основната архитектура. По-специално, чрез нови модули като „условна памет“ те се опитват да подобрят производителността на алгоритъма, като решават известни проблеми на традиционната архитектура по отношение на паметта и изчислителната мощ. Тази дейност е и технологична подготовка за пускането на DeepSeek-V4. Освен това новият алгоритъм ще бъде дълбоко адаптиран към китайските AI ускорители и може да се превърне в първия AI модел, който работи изцяло в рамките на „местната екосистема на изчислителната мощ“.

През април се очаква китайският пазар на AI модели да бъде изключително активен. Освен появата на новата версия на DeepSeek се очаква да бъде пуснат още един AI модел на Tencent с 30 млрд. параметъра.