25% по-бърза производителност: Meta ще използва десетки милиони процесорни ядра на Amazon за разработване на AI

Meta се споразумя с Amazon да използва десетки милиони процесорни ядра Graviton за разработването на своята ИИ инфраструктура. Това е необходимо за обработка на данни, логика в реално време и работата на новите ИИ услуги.

За това пише изданието Interesting Engineering.

Meta си партнира с Amazon Web Services, за да внедри голям брой процесори Graviton в поддръжката на следващото поколение свои AI-системи. Това представлява десетки милиони ядра с възможност за допълнително мащабиране.

Компанията обяснява, че търсенето на изчислителни ресурси се променя. Докато графичните процесори преди играеха ключова роля за обучението на ИИ моделите, сега има нарастваща нужда от централни процесори за задачите в реално време, като търсене, програмиране и изпълнение на многоетапни AI-агенти.

Amazon разработи процесорите Graviton, базирани на архитектурата Arm. Те са предназначени за облачните изчисления и консумират по-малко енергия от традиционните сървърни чипове. Най-новата версия, Graviton5, е произведена по 3-нанометров технологичен процес и разполага със 192 ядра. Според компанията, тя осигурява до 25% по-висока производителност от предишното поколение.

Новите чипове също така разполагат с пет пъти по-голям размер на кеша, намалявайки междуядрената латентност с до 33%. Това е важно за системите с изкуствен интелект, които обработват големи количества данни и изпълняват множество задачи едновременно.

Процесорите работят на системата AWS Nitro, която комбинира хардуерни и софтуерни решения за подобряване на сигурността и производителността. Те също така поддържат бърз обмен на данни между сървърите с ниска латентност.

Amazon отбелязва, че не става въпрос само за чипове, а за създаване на цялостна AI инфраструктура, включително обработка на данни и услуги за управление на моделите. Компанията добавя, че комбинацията от собствени процесори и облачна платформа ѝ позволява да изгражда системи, способни да се мащабират до милиарди потребители.

Meta отбелязва, че диверсифицирането на изчислителните ресурси се е превърнало в стратегическа необходимост. Разширяването на партньорството с AWS позволява по-ефективно изпълнение на ресурсоемките задачи, свързани с новите ИИ системи.

Споразумението подчертава и нарастващата роля на енергийната ефективност. С повишаването на сложността на изчислителните системи, ефективността на чиповете влияе върху разходите, наличността на енергия и екологичните цели на компаниите.