Nvidia стартира производството на AI ускорителите GB300

Nvidia е започнала ограничено производство на суперчиповете Grace Blackwell GB300 за ресурсоемки натоварвания с изкуствен интелект, според DigiTimes. Очаква се доставките на продукта да започнат през септември с постепенно увеличаване на производствените обеми.

Решението GB300 представлява пакет от Arm-процесор Grace със 72 ядра Neoverse V2 и два чипа Blackwell Ultra. То е оборудвано с 288GB HBM3E памет с пропускателна способност до 8 TB/s. Ускорителят GB300 е в основата на стелажната система GB300 NVL72, която има 36 чипа Grace и 72 процесора Blackwell Ultra. Производителността на такъв комплекс достига 720 Pflops при FP8/FP6 операции.

„На този етап няма сериозни проблеми с GB300. Доставките трябва да вървят гладко от втората половина на годината.“

подчертаха представители на един от ODM производителите

Въпреки това се отбелязва, че търсенето на AI ускорители GB200 остава високо. Клиентите продължават да купуват тези продукти, въпреки трудностите с охлаждането.

Огромната изчислителна мощност и увеличената плътност на разположението на сървърите наложиха използването на системи за отвеждане на топлината в течност, но се появиха проблеми с изтичането на вода. В много случаи се оказа, че това се дължи на бързодействащи съединители, които не винаги отговарят на необходимите изисквания – дори след стрес тестове. ODM производителите отбелязват, че действителните условия на работа варират в широки граници по отношение на налягането на водата и конструкцията на тръбопроводите, което затруднява пълното изключване на течове. Следпродажбеното обслужване изисква значително време и разходи.

В случая с GB200 основните предизвикателства се дължаха на прехода от архитектурата Hopper към Blackwell, което доведе до сложни промени на ниво платформа. GB300, от друга страна използва съществуващата инфраструктура и поради това не се очаква да създаде големи предизвикателства при пускането и доставката на тези продукти. ODM, които понастоящем активно тестват GB300 съобщават за окуражаващи резултати. Очаква се преходът да премине гладко, като масовите доставки са планирани за третото тримесечие, а производствените обеми ще се увеличат през последното тримесечие на тази година.

Новите предизвикателства могат да бъдат създадени от следващото поколение ускорители от фамилията Rubin, които ще заменят Blackwell Ultra през втората половина на 2026 г. Тази платформа включва чиплети и изцяло нов шкаф Kyber (за VR300 NVL 576), който ще замени сегашната конструкция Oberon. Гъстотата на разположението ще се увеличи до 600 kW на шкаф, което изисква още по-стабилни системи за охлаждане. Отбелязва се, че използването на SLR ще стане задължително за суперускорителите Rubin.