Neo Semiconductor измисли 3D X-AI памет, която може да обработва ИИ натоварванията без GPU

NEO Semiconductor представи чиповете 3D X-AI, предназначени да заменят паметта HBM, която се използва в сегашните ускорители, базирани на графични процесори. Паметта от типа 3D DRAM има вграден модул за ИИ обработка, който поема потоците от данни, които не изискват математически изчисления. Това допринася за решаване на проблема с ширината на шината между процесора и паметта, като спомага за подобряване на производителността и ефективността на системите за ИИ.

В основата на чипа 3D X-AI е слой от невронни вериги, които обработват данните от 300-те слоя памет на същия чип. Плътността на паметта на компонент е осем пъти по-голяма от тази на сегашната HBM, а 8000 невронни вериги осигуряват 100-кратно увеличение на производителността чрез обработката на данните директно в паметта. Освен това количеството на данните, пренасяни през интерфейса, и използването на графичния процесор са радикално намалени, което намалява консумацията на енергия на ускорителя с до 99%.

„Съществуващите ИИ чипове разхищават значителни ресурси за производителност и енергия поради своята архитектурна и технологична неефективност. Днешните ИИ чипове съхраняват данните в HBM и делегират всички изчисления на графичния процесор. Тази разделена архитектура за съхранение и обработка неизбежно превръща шината в тясно място за производителността. Прехвърлянето на огромни количества данни по шината намалява производителността и значително увеличава консумацията на енергия. 3D X-AI може да извършва обработка на ИИ данните във всеки HBM чип. Това може значително да намали количеството данни, прехвърляни между HBM и графичния процесор, за да се подобри производителността и значително да се намали консумацията на енергия“, казва Анди Хсу, основател и главен изпълнителен директор на NEO Semiconductor.