Google Cloud обяви създаването на суперкомпютъра Compute Engine A3 за AI

Google Cloud обяви създаването на суперкомпютъра Compute Engine A3 за развитие на изкуствения интелект. Той ще служи за обучение и поддръжка на най-взискателните AI-модели.

Виртуалните машини A3 комбинират в себе си графичните процесори Nvidia H100 с тензорни ядра и иновативните достижения на Google. A3 е първият графичен процесор, който използва специално създадените 200Gb/s IPU, с прехвърляне на данни от един GPU към друг, заобикаляйки CPU и преминавайки през отделни интерфейси от други мрежи на виртуални машини и трафик на данни. Това осигурява до 10 пъти по-висока пропускателна способност на мрежата, в сравнение с виртуалните машини A2.

В същото време, интелигентната мрежова структура на центъра за данни Jupiter се мащабира до десетки хиляди силно свързани GPU и позволява реконфигурируеми оптични връзки с пълна честотна лента, които могат да коригират топологията при поискване. Почти за всяка структура на работното натоварване се постига пропускателна способност на ниво, сравнимо с по-скъпите готови неблокиращи мрежови структури, което води и до по-ниска обща цена на притежание.

Мащабът на суперкомпютъра A3 осигурява производителност на ИИ до 26 екзафлопа, което значително намалява времето и разходите за обучение на големите модели за машинно обучение.

Виртуалните машини също са много подходящи за работни натоварвания с логически изводи, осигурявайки 30 пъти по-висока производителност в сравнение с A2.

Ето основните характеристики на A3:

• 8 графични процесора H100 с архитектурата Nvidia Hopper, осигуряваща 3-кратна изчислителна производителност;
• пропускателна способност от 3,6 TB/s, разделена между 8 графични процесора A3 чрез Nvidia NVSwitch и NVLink 4.0;
• мащабируеми процесори Intel Xeon 4-то поколение;
• 2 TB оперативна памет чрез DIMM модули DDR5 4800 MHz;„
• 10x мрежова пропускателна способност с хардуерни IPU, специален стек за междусървърна връзка на GPU и NCCL оптимизации.

Виртуалните машини A3 ще позволят на компаниите да обучават по-сложни модели с висока скорост и да създават големи езикови модели и генератнивен ИИ, отбелязват от Google Cloud.

A3 може да бъде внедрен на Vertex AI – цялостна платформа за изграждане на модели за машинно обучение в напълно управлявана инфраструктура.

Клиентите, които желаят да изградят свой собствен софтуерен стек, могат също да разположат виртуални машини на Google Kubernetes Engine и Compute Engine.

Трябва да се регистрирате, за да се присъедините към списъка с чакащи за преглед на A3.

По-рано компанията обяви на Google I/O 2023, че Vertex AI ще предостави генеративна AI поддръжка на повече клиенти и представи нови функции и основни модели. Google също така представи и актуализирания модел за изкуствен интелект PaLM 2 и говори за внедряването на AI в редица свои продукти.