Без дефицит на HBM: Positron AI подготвя ИИ-ускорител Asimov с терабайти LPDRR5x

Компанията Positron AI обяви, че е набрала 230 милиона долара в свръхзаявения кръг на финансиране от Серия B, оценявайки компанията на над 1 милиард долара. Кръгът беше воден от ARENA Private Wealth, Jump Trading и Unless, с участието на новите инвеститори Qatar Investment Authority (QIA), Arm и Helena, както и на съществуващите инвеститори Valor Equity Partners, Atreides Management, DFJ Growth, Resilience Reserve, Flume Ventures и 1517.

Съобщението беше направено на Web Summit Qatar, подчертавайки нарастващия международен профил на компанията, отбеляза eWeek. На Positron AI ѝ бяха необходими 34 месеца, за да се превърне в еднорог.

Positron AI отбеляза решението на Jump Trading да стане един от лидерите в кръга, след като компанията стана неин клиент. „За натоварванията, които ни интересуват, паметта и консумацията на енергия все повече се превръщат в пречки, а не в теоретични изчисления“, каза главният технически директор на Jump Trading. „В нашите тестове Positron Atlas демонстрира приблизително три пъти по-ниска латентност в сравнение със системите базирани на NVIDIA H100, при оценка на работните натоварвания в инференса, в готов за производство корпус с въздушно охлаждане и верига за доставки, която можем да планираме.“

Получената инвестиция ще ускори пускането на платформата Asimov от следващо поколение, която е разработена по поръчка. Компанията планира да завърши тестването на Asimov до края на третото тримесечие, като пробните версии ще бъдат налични до края на първото тримесечие на 2027 г. Asimov ще използва LPDDR памет (без HBM), но способността ѝ да се доближава до теоретичната пикова пропускателна способност на паметта означава, че компанията не е необходимо да разчита на HBM за бързо генериране на токени, каза техническият директор на Positron пред EE Times.

Изчислителните елементи на Asimov —- това са еволюция на блоковете Atlas, добавяйки Arm ядра и подобрена взаимовръзка. Паметта Asimov LPDDR5x може да бъде разширена с помощта на CXL, от 864 GB до 2,3 TB на чип. Чипът позволява създаването на два независими домейна памет за по-добро използване на паметта. Хост-интерфейсът на чипа е PCI 6.0 x32.

Въпреки че LPDDR5x е по-евтин и с по-голям капацитет от HBM, той значително губи по отношение на пропускателната способност. Докато ускорителите NVIDIA Rubin разполагат с 288 GB HBM4 памет с пикова пропускателна способност от 22 TB/s, таванът на Asimov изглежда е около 3 TB/s, според The ​​Register (в спецификациите се посочва 2,76 TB/s). Според Positron разликата е, че чиповете му всъщност могат да използват 90% от тази честотна лента, докато базираните на HBM графични процесори едва постигат 30% от пиковата пропускателна способност в реални условия, въпреки че паметта на Rubin все още е приблизително 2,4 пъти по-бърза от тази на Asimov.

Компанията съобщи, че чипът с мощност 400W е оборудван със систолична матрица 512×512, работеща на 2 GHz и поддържаща типове данни TF32, FP16/BF16, FP8, NVFP4 и INT4. Тази матрица се управлява от редица Armv9 ядра и може да бъде преконфигурирана например на 128×512 (GEMV) или 512×128 (GEMM), в зависимост от това кой вариант е по-ефективен за конкретна задача.

Четири чипа Asimov образуват 4U Titan платформа с въздушно охлаждане и 16 Tbps междучипова пропускателна способност. Компанията отбеляза, че Asimov е проектиран да поддържа 2 TB памет на ускорител и 8 TB памет на система Titan с подобна честотна лента на паметта като ускорителя NVIDIA Rubin. В мащаб за стелаж това се равнява на над 100 TB памет. До 4096 Titan системи (16 384 ускорителя) могат да бъдат комбинирани в един мащабируем домейн с над 32 PB памет. Това се постига чрез чисто междучипово свързване, а не чрез комутируеми мащабируеми мрежи, открити в архитектурите на стелажите на NVIDIA или AMD.

Positron подчертава, че неговата ориентирана към паметта архитектура позволява достъп до високопроизводителни задачи за инференс, включително големи, големи езикови модели с дълъг контекст, агентни работни процеси и модели на медия и видео от следващо поколение.