Telum II и Spyre: Новите оръжия на IBM в битката за изкуствения интелект

IBM обяви ново поколение изчислителни системи за изкуствен интелект – процесора Telum II и ускорителя IBM Spyre. Двата продукта са предназначени за ускоряване на изкуствения интелект и подобряване производителността на корпоративните приложения. Telum II предлага значителни подобрения с увеличена кеш памет и високопроизводителни ядра. Ускорителят Spyre го допълва, като осигурява още по-добра производителност за приложенията, базирани на ИИ.

Според блога на компанията новият процесор IBM Telum II, разработен по 5-нанометровата технология на Samsung, ще разполага с осем високопроизводителни ядра, работещи с тактова честота 5,5 GHz. Кеш паметта на чипа е увеличена с 40%, като виртуалната L3 кеш памет е нараснала до 360 Мбайта, а L4 кеш паметта – до 2,88 Гбайта. Допълнителните нововъведения включват интегриран модул за обработка на данни (DPU) за по-бързи входно-изходни операции и следващото поколение на вградения в чипа ускорител за изкуствен интелект.

Telum II предлага значителни подобрения на производителността в сравнение с предишните поколения. Вграденият ускорител на изкуствен интелект осигурява четири пъти по-голяма изчислителна мощ, достигайки 24 трилиона операции в секунда (TOPS). Архитектурата на ускорителя е оптимизирана за големите езикови модели и поддържа широк набор от AI модели за комплексен анализ на структурирани и текстови данни. Освен това новият процесор поддържа типа данни INT8 за по-добра изчислителна ефективност. Същевременно на системно ниво Telum II дава възможност на всяко процесорно ядро да получи достъп до всеки от осемте AI ускорителя в рамките на един модул, което позволява по-ефективно балансиране на натоварването и постигане на обща производителност от 192 TOPS.

IBM представи и ускорителя Spyre, разработен съвместно с IBM Research и IBM Infrastructure development. Spyre разполага с 32 AI ускорителни ядра с архитектура, подобна на тази на ускорителя, интегриран в чипа Telum II. Възможността за свързване на множество ускорители Spyre към I/O подсистемата на IBM Z чрез PCIe значително увеличава наличните ресурси за ускоряване на AI задачи.

Telum II и Spyre са проектирани да поддържат широк спектър от сценарии за ИИ, включително метода ensemble AI. Този метод се възползва от едновременното използване на множество ИИ модели, за да подобри общата производителност и точността на прогнозиране. Пример за това е откриването на измами при застрахователни искове, при което традиционните невронни мрежи се комбинират успешно с големите езикови модели, за да се подобри ефективността на анализа.

Двата продукта бяха представени на 26-ти август на конференцията Hot Chips 2024 в Пало Алто, Калифорния, САЩ. Предвижда се те да бъдат пуснати на пазара през 2025 г. Новите чипове на IBM със сигурност ще ускорят развитието на изкуствения интелект.