Първият TPU с въглеродни тръби ще бъде в основата на суперкомпютрите на бъдещето

Разработката дава възможност за ускоряване разработването на изкуствения интелект и за икономия на много енергия.

Изследователи от Пекинския университет и други изследователски институти в Китай са създали първия в света тензорен процесор (TPU), базиран на въглеродни нанотръбички, който може значително да подобри енергийната ефективност на алгоритмите за изкуствен интелект.

Изследователите са се вдъхновили от бързото развитие на приложения като ChatGPT и Sora, както и от начина, по който Google разработва своите TPU. Те отбелязват, че традиционните силициеви полупроводникови технологии са все по-неспособни да се справят с огромните количества данни, необходими за съвременните ИИ системи.

Новият чип се състои от 3000 полеви транзистора върху въглеродни нанотръбички, организирани в изчислителни блокове 3х3. Тези 9 блока образуват систолична матрична архитектура, способна да извършва паралелно двубитови целочислени операции за конволюция и матрично умножение.

Архитектурата на чипа е проектирана така, че да поддържа систоличен поток от входни данни. Това намалява броя на операциите за четене и запис в статичната памет с произволен достъп (SRAM), поради което силно се увеличава икономията на енергия.

Всеки изчислителен блок получава данни от съседните блокове отгоре и отляво, независимо изчислява частичния резултат и го подава по-нататък надясно и надолу. Блоковете са оптимизирани да извършват 2-битови операции за акумулативно умножение (MAC) и матрично умножение на цели числа със знак и без знак.

Въз основа на разработения въглероден тензорен процесор изследователите са изградили петслойна конволюционна невронна мрежа, способна да разпознава изображения с 88% точност, като същевременно консумира само 295 µW енергия. Това е най-ниската консумация на енергия от всички подобни технологии.

Резултатите от моделирането на системата показват, че въглеродният транзистор, който използва 180-нанометров технологичен възел, може да достигне тактова честота от 850 MHz, а енергийната му ефективност надхвърля 1 TOPS/W (трилион операции в секунда на ват).

Изследователите отбелязват: производителността и енергийната ефективност на техния подход могат да бъдат подобрени. За тази цел те планират да използват подравнени полупроводникови въглеродни нанотръбички, да намалят размера на транзисторите, да увеличат цифровия капацитет на изчислителните единици и да приложат CMOS логика.

Освен това учените обмислят възможността за интегриране на въглеродните TPU в силициевите чипове, за да се създадат триизмерни структури. В такава конфигурация силициевият процесор ще бъде поставен в долната част, а въглеродният TPU – в горната като копроцесор.

Разработената архитектура от тясно свързани изчислителни блокове и систоличен поток от данни позволява значително намаляване на общия брой на достъпа до паметта, което е ключов фактор за намаляване на консумацията на енергия. Това е особено важно в контекста на нарастващите нужди от изчислителна мощност на алгоритмите за изкуствен интелект.