Google представи своя най-мощен ИИ-процесор Ironwood – до 4,6 квадрилиона операции в секунда

На конференцията Cloud Next тази седмица Google представи нов специален AI-чип, наречен Ironwood. Това е вече седмото поколение AI-процесори на компанията и първият TPU, оптимизиран за инференс — работа на вече обучени AI-модели. Процесорът ще се използва в Google Cloud и ще се доставя в системите от две конфигурации: сървъри с 256 такива процесора и клъстери с 9216 такива чипа.

„Ironwood е нашият най-мощен, най-производителен и най-енергийно ефективен TPU досега. Той е проектиран да ускори извеждането на инференса на AI-моделите в мащабите на облачната инфраструктура“ — каза Амин Вахдат, вицепрезидент на Google Cloud, коментирайки анонса на процесора.

Съобщението за Ironwood идва на фона на засилващата се конкуренция в сегмента на разработването на собствени AI-ускорители. Докато Nvidia доминира на този пазар, Amazon и Microsoft също прокарват своите технологични решения. Първият разработи AI-процесорите Trainium, Inferentia и Graviton, които се използват в неговата облачна инфраструктура AWS, докато Microsoft използва своите собствени AI-чипове Cobalt 100 в облачната услуга Azure.

Google твърди, че Ironwood има пикова изчислителна производителност от 4614 терафлопа или 4614 трилиона операции в секунда. По този начин клъстер от 9216 такива чипа ще предложи производителност от 42,5 Екзафлопа.

Всеки процесор е оборудван със 192 GB специална RAM с пропускателна способност от 7,4 Tbps. Чипът също така включва усъвършенстваното и специализирано ядро ​​SparseCore за обработка на типовете данни, често срещани в работните натоварвания на „разширено класиране“ и „препоръчителни системи“ (като алгоритъм, предлагащ дрехи, които може да харесате). Архитектурата на TPU е оптимизирана за минимизиране на преместването на данни и забавянето, което според Google води до значителни икономии на енергия.

Компанията планира да използва Ironwood в своя модулен изчислителен клъстер AI Hypercomputer като част от Google Cloud.