Само AI не стига: САЩ рискуват да загубят лидерството си в областта на HPC

Проблемите, свързани HPC застрашават иновациите в САЩ, според Джак Донгара, носител на наградата „А. М. Тюринг“ и един от създателите на класацията TOP500 на най-мощните суперкомпютри в света, чиито проекти и реализации на много библиотеки, включително EISPACK, LINPACK, BLAS, LAPACK и ScaLAPACK са допринесли за развитието на HPC. В статия, публикувана от The Conversation, Донгара обсъжда напредъка на HPC и предизвикателствата пред иновациите в САЩ.

Ученият отбеляза, че HPC е една от най-важните технологии в съвременния свят, която позволява изпълнението на задачи, вариращи от прогнозирането на времето до намирането на нови лекарства и обучението на AI модели, които са твърде сложни или твърде големи за конвенционалните компютри.

HPC сега се намира в повратна точка и изборът, който правителството на САЩ, изследователите и технологичната индустрия правят днес, може да повлияе на бъдещето на иновациите, националната сигурност и глобалното лидерство, предупреждава Донгара.

Използвайки хиляди или дори милиони чипове с усъвършенствана памет и системи за съхранение за бързо преместване и съхраняване на огромни количества данни, HPC платформите позволяват изключително подробни симулации и изчисления, казва Донгарра. Значението на HPC допълнително нарасна с развитието на технологиите за изкуствен интелект, които изискват огромна изчислителна мощност за обучение.

„В резултат на това ИИ и HPC сега работят в тясно сътрудничество, като взаимно се тласкат напред.“

отбелязва ученият

Според него сегментът на високопроизводителните изчислителни системи е подложен на по-голям натиск от всякога, с по-високи изисквания към системите по отношение на скоростта, данните и консумацията на енергия. Той също така отбеляза, че HPC са изправени пред някои сериозни технически предизвикателства.

Донгарра посочи разликата между производителността на чиповете и подсистемата за памет като едно от основните предизвикателства.

„Представете си, че имате свръхбърз автомобил, но сте попаднали в задръстване – мощността е безполезна, ако пътят не може да се справи с нея.“

казва ученият

По същия начин подсистемите на паметта не могат да „захранват“ изчислителните единици, които са в престой, което се отразява на ефективността на цялата изчислителна система.

Друг проблем на HPC е консумацията на енергия.

Законът на Денард за мащабирането, който гласи, че с намаляването на размера на транзистора консумацията на енергия намалява, докато производителността се увеличава престана да се прилага през 2006 година. Сега колкото по-мощни са компютрите, толкова повече енергия консумират. За да поправят този проблем, изследователите търсят нови начини за проектиране на хардуер и софтуер за високопроизводителни изчислителни технологии.

Проблем има и с видовете чипове, които се произвеждат, отбелязва ученият. В момента производството на чипове е насочено предимно към изкуствения интелект, който е чудесен за нископрецизни изчисления. Много научни приложения обаче все още изискват FP64 изчисления. По-специално, Nvidia се е фокусирала изключително върху AI, поради което FP64 производителността на нейния последен чип GB300 е почти 30 пъти по-малка от тази на GB200. Според слуховете AMD ще има два варианта на AI ускорители MI430X с поддръжка на FP64 и MI450X, напълно лишен от FP64 тензорни ядра, в следващото поколение Instinct, но и тя може да заложи само на AI.

Ако производителите спрат да произвеждат чиповете, от които се нуждаят учените, това ще се отрази неблагоприятно на важните изследвания.

По този начин тенденциите и търговските приоритети в областта на полупроводниците могат да се разминат с нуждите на научната общност, а липсата на специализирано оборудване може да възпрепятства напредъка на научните изследвания. Възможно е да се опитаме да създадем специализирани чипове за високопроизводителни изчислителни технологии, но това е скъпо и трудно. Изследователите обаче проучват нови проекти за изработване на чипове, включително чиплети, за да ги направят по-достъпни.

В миналото САЩ имаха предимство в областта на високопроизводителните изчислителни технологии благодарение на държавното финансиране, подкрепа и отворена разработка, но сега много страни инвестират сериозно в HPC в опит да намалят зависимостта от чуждестранни технологии и да поемат водеща роля в области като моделирането на климата и персонализираната медицина. Европа разработва програмата EuroHPC, Япония разполага със собствен суперкомпютър Fugaku (и скоро ще има още един), а Китай има цяла „армия“ от такива машини.

Правителствата осъзнават, че високопроизводителните изчислителни технологии са от ключово значение за националната им сигурност, икономическата мощ и водещата роля в науката – каза Донгара, като подчерта, че САЩ все още нямат ясен дългосрочен план за бъдещето.

Другите страни развиват тази област бързо и без национална стратегия САЩ рискуват да изостанат, предупреди той. Специалистът отбеляза също така, че вече са предприети някои стъпки в тази посока, включително приемането на Закона за чиповете и науката през 2022 година и създаването на дирекция, която да помогне за превръщането на научните изследвания в реални продукти. През тази година беше създадена и работна група, наречена „Визия за американската наука и технологии“, която обединява организации с нестопанска цел, академични и индустриални среди, за да помогне на правителството да взема решения. Освен това квантовите изчисления набират скорост. Но те все още са в ранен етап и вероятно ще допълват, а не ще заменят традиционните HPC. Ето защо е важно да продължим да инвестираме и в двата вида изчисления.

Донгара нарече тези стъпки правилни, но те няма да решат проблема с подкрепата на високопроизводителните изчислителни технологии в дългосрочен план. В допълнение към краткосрочното финансиране и инфраструктурните инвестиции ученият предлага:

да се направят дългосрочни федерални инвестиции в научноизследователска и развойна дейност в областта на високопроизводителните изчислителни технологии, включително усъвършенстван хардуер, софтуер и енергийно ефективни архитектури;
да се закупят и внедрят модерни изчислителни системи в националните лаборатории и университетите;
да се ангажира с развитието на човешките ресурси, включително обучение по паралелно програмиране, числени методи и интегриране на AI-HPC;
съгласуване на плановете за хардуер, като се гарантира, че разработването на търговски чипове съвпада с нуждите на научните и инженерните приложения;
използване на устойчиви модели на финансиране, които няма да бъдат повлияни от геополитически фактори;
да се стимулират публично-частните партньорства за преодоляване на различията между академичните изследвания, иновациите в индустрията и нуждите на националната сигурност.

Донгара отбеляза, че високопроизводителните изчислителни технологии са нещо повече от бързи суперкомпютри. Тя е в основата на научните открития, икономическия растеж и националната сигурност. Ако САЩ приемат предложените мерки, може да се гарантира, че HPC ще продължи да подкрепя иновациите през следващите десетилетия.