Oracle обяви най-големия в света AI клъстер с до 800 000 AI ускорители на NVIDIA в няколко центъра за данни

Oracle обяви облачния AI клъстер OCI Zettascale10, базиран стотици хиляди ускорители на NVIDIA, разположен в множество центрове за данни, който ще предлага пикова AI производителност от 16 Zflops (точността на изчисленията не е уточнена). OCI Zettascale10 е инфраструктурата, която захранва водещия AI суперклъстер, разработен съвместно с OpenAI в Абилин, Тексас, като част от проекта Stargate и се основава на мрежовата архитектура от следващо поколение Acceleron RoCE на Oracle.

OCI Zettascale10 използва NVIDIA Spectrum-X Ethernet – първата Ethernet платформа, която осигурява висока мащабируемост, изключително ниска латентност между ускорителите в клъстера, водещо в индустрията съотношение цена/производителност, подобрено използване на клъстера и надеждност, необходима за мащабни AI задачи, според NVIDIA.

Както отбелязва Oracle, OCI Zettascale10 е „мощна еволюция“ на първия облачен AI клъстер Zettascale, който беше представен през септември миналата година. Клъстерите OCI Zettascale10 ще бъдат разположени в големи гигаватни кампуси на центрове за данни с висока гъстота на разгръщане в радиус от два километра, за да се осигури най-добрата латентност между ускорителите за широкомащабни задачи за обучение на AI. Това е подходът, избран за кампуса Stargate в Тексас.

Oracle заяви, че в допълнение към възможността за изграждане, обучение и внедряване на най-големите AI модели, които консумират по-малко енергия за единица производителност и осигуряват висока надеждност, клиентите ще имат свободата да работят в разпределения облак на Oracle със строг контрол на данните и суверенитет на изкуствения интелект.

Първоначално клъстерите OCI Zettascale10 ще бъдат проектирани да разполагат с до 800 000 ускорителя NVIDIA, като осигуряват предвидима производителност и висока ефективност на разходите, както и висока пропускателна способност между тях чрез свързващото звено RoCEv2 на Oracle Acceleron със свръхниска латентност. Acceleron предлага 400G/800G свързаност с ултраниска латентност, топология на две нива, множество връзки от една мрежова карта към множество комутатори с физическа и логическа изолация на мрежовите потоци, поддръжка на LPO/LRO и гъвкавост на конфигурацията.

Oracle вече приема поръчки за OCI Zettascale10, който ще бъде пуснат в продажба през втората половина на следващата календарна година. През август NVIDIA обяви Ethernet решението Spectrum-XGS за комбиниране на множество центрове за данни в една AI суперфабрика, което вероятно ще се използва не само от Oracle, но и от Meta.