IBM представи ИИ ускорителя Spyre Accelerator

IBM обяви, че специализираните ускорители за изкуствен интелект Spyre Accelerator ще започнат да се предлагат в сървърите z17 и LinuxONE 5 от края на този месец, а системите POWER11 ще бъдат оборудвани с тези платформи в началото на декември.

Подготовката на Spyre Accelerator стана известна през август миналата година. Това е идея на изследователския отдел на IBM. Ускорителят е ориентиран към задачи за извеждане на заключения с ниска латентност. В частност устройството е подходящо за генеративни приложения и AI агенти.

Продуктът представлява разширителна платка PCIe 5.0 x16, която включва невронен процесор на IBM с 32 ядра. Освен това има 128 GB памет LPDDR5. Ускорителят има общо 25,6 милиарда транзистора; при производството е използвана 5nm технология. Заявената консумация на енергия е 75 W.

IBM отбелязва, че при използването на традиционни CPU и GPU за ресурсоемки задачи с изкуствен интелект възникват предизвикателства, свързани с мащабируемостта и ефективността. Продуктите Spyre Accelerator са разработени, за да помогнат за преодоляването на тези недостатъци. Ако е необходимо, до 16 платки могат да бъдат клъстерирани в системата POWER11 и до 48 платки в системата z17. Заедно с процесорите Telum II, които са в основата на z17 и LinuxONE 5, компаниите ще могат да стартират едновременно няколко AI модела. Възможни са локални заключения, като се свеждат до минимум обръщенията към услуги на трети страни: това намалява латентността и подобрява сигурността.

Потенциалните клиенти на Spyre Accelerator включват финансови организации, търговци на дребно, правителствени агенции, здравни заведения, промишлени предприятия и др.