Възбудата около ChatGPT и другите генеративни невронни мрежи не е останала незабелязана от Nvidia. Специално за работа с големи езикови модели като фамилията GPT на OpenAI, производителят на екологични чипове е подготвил ускорителя H100 NVL. Това е двукомпонентна модификация на H100 с увеличен капацитет на паметта и пропускателната способност.
Всъщност Nvidia H100 NVL представлява две разширителни PCI Express 5.0 x16 карти, обединени с помощта на NVLink интерфейса (600 GB/s). Едно от тези устройства заема четири разширителни слота в сървъра. Всяка от половините се базира на 4-нанометровия графичен процесор процесор GH100, има максимален TDP от 350-400 W и осигурява изчислителната мощ от нивото на SXM версията на H100.
Nvidia заяви, че изчислителната мощност е на ниво 68 TFLOPS при изчисления с двойна точност (FP64), 143 TFLOPS (Tensor Core FP64), 7916 TOPS (IN8). За постигането на толкова високи параметри е променена подсистемата на паметта.
Новият вариант на процесора GH100 разполага с шест многослойни стека памет HBM3, докато в по-ранните версии те бяха ограничени до пет. Това е увеличило не само обема на буфера, но и неговата пропускателна способност. Спецификациите на NVL ускорителя Nvidia H100, както и на вариантите SXM и PCIe, са събрани в таблицата по-долу.
Компанията на Дженсен Хуанг специално подчерта, че H100 NVL може в реално време да обработва до 175 милиарда параметъра (електронни неврона) на ChatGPT.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
