Чип със съвсем нова архитектура увеличава 1000 пъти производителността на хардуера за изкуствен интелект

Екип от разработчици от водещи американски университети съвместно с производителя на полупроводници SkyWater Technology разработи нов многослоен компютърен чип, чиято архитектура може да постави началото на нова ера на „хардуер“ за изкуствен интелект. Високата плътност на вертикалните връзки и интелигентната комбинация от памет и изчислителни блокове помагат на чипа да заобиколи тесните места, които дълго време спъваха напредъка на 2D-аналозите. При хардуерни тестове и симулации новият 3D чип превъзхожда 2D-ангалите с около един порядък.

Съвременните ИИ модели трябва да прехвърлят огромни количества данни между паметта, която съхранява информацията, и изчислителните модули, които я обработват. При конвенционалните 2D чипове компонентите се намират на една и съща равнина с ограничена, разпределена памет, така че трансферът на данни се осъществява по дълги, претоварени маршрути. Тъй като изчислителните елементи работят много по-бързо, отколкото се осъществява трансферът на данни, и тъй като чипът не може да разполага с достатъчно памет наблизо, системата постоянно чака за информация. Инженерите наричат този проблем „стена на паметта“ – състояние, при което скоростта на обработка на данните надвишава способността на чипа да прехвърля данни.В продължение на десетилетия производителите на чипове решаваха проблема със стената на паметта, като намаляваха размера на транзисторите и увеличаваха техния брой в чипа. Но потенциалът на този подход не е неограничен.

Нов чип решава проблема със „стената на паметта“, като расте нагоре, пише Stanford News.

„Чрез вертикалното интегриране на паметта и изчислителната техника можем да пренасяме много повече информация много по-бързо, подобно на начина, по който асансьорните шахти във високоетажна сграда позволяват на няколко обитатели да се движат между етажите едновременно“,

заяви Татхагата Сримани от университета Карнеги Мелън, един от авторите на статията.

Вместо да изработва 3D чипа слой по слой, екипът създава всеки слой директно върху предишния, в един непрекъснат процес. Този метод позволява компонентите да се подреждат и свързват много по-плътно.

„Това откритие е път към нова ера в производството на чипове и иновациите“, казва Субхасиш Митра от Станфордския университет, водещ изследовател. – Именно подобни пробиви дават възможност да се постигне хилядократно подобрение на хардуерната производителност, от която ще се нуждаят бъдещите системи с изкуствен интелект.“

Първоначалните хардуерни тестове показват, че прототипът вече превъзхожда сравнимите 2D чипове около четири пъти. Моделирането на бъдещите версии – с повече слоеве памет и изчислителни ресурси – дава основание да се очаква още по-голямо повишаване на производителността: до дванадесет пъти при реални задачи на изкуствения интелект.

Според изследователите тази архитектура открива пътя към 100-1000-кратно подобрение на произведението на мощността по отношение на латентността – ключов показател, който балансира между скоростта и енергийната ефективност. Чрез драстичното намаляване на трансфера на данни и добавянето на множество вертикални пътища, чипът може да постигне както по-висока производителност, така и по-ниска консумация на енергия за операция – комбинация, която отдавна се смята за непостижима за традиционните 2D архитектури.