MTIA v2: новият чип на Meta е специално разработен за показване на реклами

Ускорителят има за цел да подобри мащабируемостта и персонализирането на рекламите.

Meta обяви стартирането на производството на второто поколение на своя ускорител Meta Training Inference Accelerator (MTIA v2). Той се използва за подобряване на системите за препоръки в 16 държави. Новият чип е 3 пъти по-бърз и 50% по-енергийно ефективен от своя предшественик.

MTIA v2 е проектиран така, че оптимално да балансира изчислителната мощ, размера на паметта и пропускателната способност. По този начин той максимално увеличава производителността на моделите за ранжиране и препоръчване. Ускорителят разполага с мрежа от 64 процесорни елемента и е в състояние да осигури 3,5 пъти по-голяма изчислителна плътност от MTIA v1. А при активиране на функцията sparsity производителността се увеличава 7 пъти.

Новият продукт е създаден по 5nm технологичния процес на TSMC. То е с повишена тактова честота – от 800 MHz на 1,35 GHz. Освен това MTIA v2 включва архитектурни подобрения, включително поддръжка на разредени изчисления, увеличен капацитет на паметта и усъвършенствана мрежа върху чипа (NoC – Network-on-Chip) с двойно по-голяма пропускателна способност.

Важно е да се отбележи, че въпреки значителното увеличение на мощността, новият чип няма да замени изцяло графичните процесори. Според Марк Зукърбърг Мета планира да използва 350 000 чипа Nvidia H100, като се очаква броят им да достигне 600 000 до края на годината. Новият чип е предназначен за сферата на рекламите.

Сравнението с конкурентите показва, че MTIA v2 осигурява 7,8 тераоперации в секунда (TOPS) на ват (TOPS/W), което е по-добре от Nvidia H100 SXM (5,65 TOPS/W) и значително повече от A100 SXM (3,12 TOPS/W).