Broadcom работи по интегрирането на оптична свързаност директно в графичните процесори

Наближава момент, в който традиционните медни връзки няма да могат да пренасят достатъчно данни, за да поддържат пълноценно използването на графичните процесори и други специализирани чипове. Пазарът на изкуствен интелект спешно изисква решение от следващо поколение за това тясно място на взаимовръзките и изглежда, че Broadcom работи по решение, базирано на оптика, което е по-близо до самия чип.

Broadcom разработва нова технология за силициева фотоника, насочена към значително увеличаване на пропускателната способност, достъпна за графичните процесори и ИИ-ускорителите.

Като използва съвместно опакована оптика (CPO), производителят на чипове без фабрична технология цели да интегрира компоненти за оптична свързаност директно в графичните процесори, което позволява по-високи скорости на предаване на данни, като същевременно намалява изискванията за мощност.

Компанията работи по решения за CPO от няколко години и представи последните си постижения на неотдавнашната конвенция Hot Chips. Съобщава се, че „оптичният двигател“ на Broadcom осигурява обща пропускателна способност на връзките от 1,6 TB/s, което се равнява на 6,4 Tbit/s или 800 GB/s във всяка посока.

Тази нова връзка може да осигури „безпогрешен“ трансфер на данни към един чиплет, като постига нива на производителност, сравними с NVLink на Nvidia и други специализирани решения за центрове за данни.

Въпреки това Broadcom все още не е включила своите оптични връзки в готов за пазара графичен процесор, като например A100 или MI250X. Вместо това компанията е използвала тестов чип, предназначен да емулира истински графичен процесор с демонстрационна цел.

Според Маниш Мехта, вицепрезидент на подразделението за оптични системи на Broadcom, медните връзки започват да деградират само след 5 метра. Въпреки, че оптичните комуникации отдавна се разглеждат като решение на този проблем с влошаването на сигнала, те традиционно изискват много повече енергия от медните технологии.

Например, Nvidia изчислява, че една NVL72 система, захранвана с оптика, ще изисква допълнителни 20 киловата на шкаф, в допълнение към 120-те киловата, които системата вече консумира.

Broadcom е успяла да намали консумацията на енергия с използването на съвместно опакована оптика, която поставя отделните приемо-предаватели в пряк контакт с графичния процесор.

Компанията е използвала технологията на TSMC за опаковане на чип върху пластина върху субстрат (CoWoS), за да свърже чифт стекове памет с висока пропускателна способност към изчислителната матрица. Логическите компоненти и компонентите на паметта на чипа са разположени върху силициев междинен слой, докато оптичният двигател на Broadcom е разположен върху подложката.

Мехта обясни, че технологията CPO може да свърже до 512 отделни графични процесора в осем шкафа, което позволява на цялата конфигурация да функционира като една система. За сравнение, NVL72 на Nvidia може да постигне подобни обединени изчислителни възможности със „само“ 72 графични процесора, което предполага, че решението на Broadcom в крайна сметка може да предложи конкурентно предимство за работните натоварвания с изкуствен интелект от следващо поколение.