Samsung представи паметта HBM-PIM с интегриран копроцесор

По време на конференцията ISSCC 2021 компанията Samsung представи съвсем нов тип RAM на базата на стандартна многослойна HBM2 оперативна памет с интегриран ИИ процесор с теоретична изчислителна мощност 1,2 терафлопа. Новата смарт памет носи името HBM-PIM и дава възможност на RAM планките самостоятелно да извършват операциите, които обикновено се изпълняват от CPU, GPU, ASIC или FPGA.

Иновационният клас памет е предназначен за облекчаване и ускоряване на прехвърлянето на данните между процесора и паметта, което е скъп процес от гледна точка на времето и консумираната електрическа енергия. Samsung заяви, че в сравнение със сега съществуващата памет HBM2 Aquabolt новата технология осигурява двойно по-висока производителност на компютърните системи, като едновременно с това консумацията на електрическа енергия намалява с над 70%.

Друг много важен момент е, че HBM-PIM паметта не изисква каквито и да било промени в хардуера и софтуера на компютрите, включително и в контролерите на паметта. Това значително ще ускори и опрости излизането на новата памет на пазара. Южнокорейската компания допълва, че новата памет вече се тества за ускоряване на алгоритмите с елементи на изкуствен интелект. Тестове за започнали да извършват и партньорите на Samsung. Компанията счита, че всички предварителни етапи ще бъдат приключени до средата на тази година.

От гледна точка на архитектурата, всяка банка памет има интегриран програмируем изчислителен блок (Programmable Computing Unit — PCU), който работи с тактова честота 300 MHz. Новата RAM може да работи както в стандартен режим като HBM2 памет или в режим PIM (processing-in-memory) за обработка на данните. Да отбележим, че в слайдовете новата технология носи името FIMDRAM (function-in-memory), но в широката общественост ще се нарича HBM-PIM.

Очевидно е, че интегрирането на PCU модулите намалява полезния капацитет на паметта – всеки кристал с вграден PCU модул има половината капацитет (4 Gb) в сравнение със стандартните HBM2 кристали (8 Gb). За да се справи с този проблем Samsung използва стекове от по 6 GB, в които 4 Gb кристали с PCU блокове са обединени с четири обикновени 8 Gb кристали без PCU. Да си припомним, че стандартният HBM2 стек е с капацитет 8 GB и е съставен от 8х 8 Gb кристала.

Куангил Пърк, старши вицепрезидент на Memory Product Planning в Samsung Electronics заяви:

„Нашата иновативна HBM-PIM памет е първото в този сектор програмируемо решение, адаптирано за различни работни натоварвания, за създаването на управляеми изкуствени интелекти, за високопроизводителни изчисления, машинно обучение, невронни мрежи и други най-разнообразни ИИ операции. Възнамеряваме да усъвършенстваме тази нова технология както самостоятелно, така и чрез съвместна работа с компаниите работещи в областта на изкуствения интелект“.