Micron представи първия в света високопроизводителен модул оперативна памет LPDRAM SOCAMM2 с капацитет 256GB. Той е специално разработен за центрове за данни и натоварвания с изкуствен интелект.
Новият тип оперативна памет консумира три пъти по-малко енергия и се отличава с компактен размер – самият модул е изграден върху 32-гигабитови монолитни кристали. При наличие на 8-канален процесор в система с 2TB памет скоростта при извеждане (стартиране) на работно натоварване на изкуствения интелект се увеличава с 2,3 пъти по най-важния показател – времето за издаване на първия токен.
Новият модул памет на Micron е насочен към извеждането на големи езикови модели и други работни натоварвания, при които размерът на паметта, широчината на лентата, ефективността и латентността определят производителността и мащабируемостта. Форматът SOCAMM2 е идеално решение с по-малък размер на модула и намалена консумация на енергия в сравнение с традиционния формат RDIMM. Micron разработва компонента съвместно с Nvidia. При натоварванията с изкуствен интелект видеопаметта на графичния процесор е от решаващо значение, но в случай на големи обеми KV-кеш памет тя може да бъде частично разтоварена към по-евтина споделена системна памет, ако е достатъчно бърза – именно такава възможност се предлага от LPDRAM SOCAMM2 на Micron.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
