Невероятно: SSD на Kioxia-Nvidia ще е 33 пъти по-бърз от сегашните

Сътрудничеството между Kioxia и Nvidia бележи още една стъпка напред за инфраструктурата на центровете за данни за изкуствен интелект. С преминаването към SSD дискове с капацитет от 100 милиона IOPS – значително по-висок от този на най-модерните дискове днес, които достигат около 3 милиона – компаниите се справят с едно от най-големите препятствия при обучението и внедряването на големите модели за изкуствен интелект: преместването на данните. Ако този пробив се окаже успешен, той не само ще ускори темпото на иновациите в GenAI, но и ще предефинира начина, по който се изграждат центровете за данни, ще промени конкурентната динамика в облачното и корпоративното съхранение и ще породи нови очаквания за цялата хардуерна платформа.

Производителят на полупроводникови памети Kioxia разработва SSD технология от ново поколение, проектирана за ултрависоки скорости на четене, за да поддържа изискващите AI работни натоварвания. Компанията обяви, че възнамерява да пусне на пазара SSD, способен да осигури до 100 милиона случайни IOPS до 2027 г., което е около 30 – 35 пъти по-висока производителност от настоящите модели от висок клас. Този амбициозен проект се разработва съвместно с Nvidia.

На брифинг в Токио Kioxia обясни, че новият диск ще се свързва директно с GPU на Nvidia, вместо да минава през централния процесор на сървъра. Тази директна, peer-to-peer връзка позволява много по-бързо преместване на данните между ресурсите за съхранение и изчисления, което е решаващо предимство за широкомащабните AI модели, които зависят от честите, малки и случайни четения на данни. Подобен тип задачи, включително извличане на вградени елементи и параметри на модели, поставят уникални изисквания към паметта и съхранението, които не могат да бъдат ефективно удовлетворени от съществуващите SSD конфигурации.

Nvidia си е поставила и още по-амбициозна цел: конфигурация с два SSD диска, осигуряваща 200 милиона IOPS, използвайки предстоящия стандарт PCI Express 7.0, който поддържа високоскоростна peer-to-peer GPU комуникация. За сравнение, днешните високопроизводителни SSD дискове достигат около 3 милиона IOPS при 4K блокове. Постигането на скок до 100 милиона ще изисква значителни подобрения както в NAND флаш технологията, така и в архитектурата на интерфейса.

Един от водещите кандидати за подкрепа на SSD на Kioxia е патентованата XL-Flash, SLC NAND памет, проектирана за висока издръжливост, ниска латентност и висока производителност. XL-Flash технологията поддържа до 16 равнини в NAND чипа, в сравнение с 3 до 6 равнини, типични за 3D NAND за потребителски нужди.

Макар Kioxia да не е публикувала пълните спецификации, реалните данни дават представа за предизвикателството, което предстои. 400 GB XL-Flash SSD с 32 NAND чипа и PCIe 5.0 интерфейс е демонстрирал около 3,5 милиона IOPS при случайно четене в тестове. Ако производителността се мащабираше перфектно (което рядко се случва), диск с 915 чипа теоретично би могъл да достигне 100 милиона IOPS. На практика обаче мащабируемостта е ограничена от фактори като пропускателна способност на контролера, натоварване на фърмуера и системната архитектура, което означава, че за да се достигне целта, може да са необходими дизайни с много контролери или модулни SSD конфигурации.