AMD представи първата в индустрията 400 Gbps мрежова карта за AI и HPC

Тъй като моделите с изкуствени интелект (ИИ) продължават да растат по размер и сложност, необходимостта от персонализирани мрежови решения става все по-критична. Представянето на AMD на Pensando Pollara 400 подчертава нарастващото значение на специализирания хардуер в екосистемите с изкуствен интелект.

Това е напълно програмируема Ethernet мрежова интерфейсна карта (NIC) с капацитет от 400 гигабита в секунда, насочена към поддръжката на AI клъстерни мрежи.

Възходът на генеративния ИИ и големите езикови модели разкрива критични недостатъци в конвенционалните Ethernet мрежи. Тези усъвършенствани AI модели изискват интензивни комуникационни възможности, включително тясно свързана паралелна обработка, бърз трансфер на данни и комуникация с ниска латентност.

Традиционният Ethernet, първоначално проектиран за изчисления с общо предназначение, понякога не може да отговори на тези специализирани нужди.

Въпреки това, Ethernet остава предпочитаният избор за ИИ поради широкото си приемане. 

Нарастващата пропаст между възможностите на Ethernet и изискванията на работните натоварвания на ИИ става все по-очевидна.

AMD твърди, че Pollara 400 е специално проектирана да оптимизира трансфера на данни за AI мрежи, с акцент върху комуникацията между графичните процесори. Според компанията, Pollara 400 може да осигури до шесткратно увеличение на производителността за натоварвания с ИИ в сравнение с традиционните Ethernet решения.

Pollara 400 е проектирана да се справя с комуникационните модели на работни натоварвания с ИИ, предлагайки висока пропускателна способност през всички налични връзки, намалено забавяне на опашката, мащабируема производителност и по-бързо време за завършване на заданието.

Например, картата има динамично разпределяне на пакети данни по оптимални маршрути, предотвратявайки претоварването на мрежата. Програмируемият хардуерен конвейер позволява персонализиране и оптимизиране на мрежовите процеси, докато програмируемият RDMA транспорт подобрява възможностите за отдалечен достъп до паметта.

В допълнение, Pollara 400 ускорява комуникационните библиотеки, които обикновено се използват при натоварвания с ИИ.

AMD обяви Pollara 400, въпреки че организацията Ultra Ethernet е отложила пускането на версия 1.0 на спецификацията си до първото тримесечие на 2025 г. 

Този нов стандарт цели да мащабира Ethernet технологията, за да отговори на изискванията за производителност и характеристики на AI и HPC (високопроизводителни изчисления). Той е проектиран да запази колкото е възможно повече от оригиналната Ethernet технология, като същевременно въвежда профили, съобразени със специфичните нужди на AI и HPC, които, макар и свързани, имат различни изисквания.

Планирано е AMD да започне тестове с мостри през четвъртото тримесечие на 2024 г., а продуктът да бъде наличен в търговската мрежа през първата половина на 2025 г.