Autonomous представи Brainy – дизайнерска AI работна станция за до $40 000

Базираната в САЩ компания Autonomous представи първата по рода си работна станция Brainy с много висока производителност, предназначена да ускори разработването на изкуствен интелект (AI). Устройството е предназначено за изследователи, разработчици и стартъпи, които искат да надхвърлят възможностите на облачните решения и да работят с най-сложните AI модели локално – бързо и сигурно.

Системата Brainy е създадена за най-взискателните задачи в областта на AI и се захранва от видеокарти Nvidia RTX 4090. Нейната производителност надхвърля 1 Pflops в максимални конфигурации, които могат да включват от два до 8 графични процесора.

Това ѝ позволява да обучава модели със 70 милиарда параметъра, да постига резултати на ниво суперкомпютър и да оптимизира обучението AI модели. Както отбелязва TechPowerUp, станцията е особено ефективна за фина настройка на големи езикови модели (LLM), задачи за компютърно зрение и други области на дълбокото обучение.

Autonomous разработи Brainy, за да се справи с предизвикателствата на скъпите облачни решения за графични процесори. Макар че облачните услуги са известни като изключително гъвкави, плащането за тях в момента на използването им може да стане непосилно за дългосрочни проекти. Autonomous предлага алтернатива под формата на локално захранване, повишена сигурност на данните и значителни икономии. Компанията изчислява, че собствениците на Brainy могат да спестят хиляди долари през първата година в сравнение с наемането на облачен капацитет.

Друго предимство на Brainy е неговата стабилност. Системата елиминира типичните за облака проблеми като внезапни прекъсвания и забавяния, дължащи се на интернет връзката.

Освен това потребителите могат да започнат с конфигурация от 2 графични карти и да я разширят до 8, ако е необходимо. Завършените проекти могат лесно да се прехвърлят в облака или център за данни без допълнителна конфигурация.

Производителят отбелязва, че Brainy поддържа популярни рамки, включително PyTorch и TensorFlow, както и технологиите CUDA, cuDNN и TensorRT на Nvidia.

Всички тези възможности ускоряват разработването на модели на изкуствен интелект и научни изчисления. Освен това Autonomous е част от програмата Nvidia Inception, което ѝ дава достъп до ресурси и обучение за оптимизиране на Brainy, както и предлага на клиентите конкурентни цени. Според компанията с помощта на станцията стартъпите и организациите ще могат да разработват по-бързо AI решения в области като медицина, образование, логистика и финанси.

В допълнение към графичните карти на Nvidia, системите Autonomous Brainy предлагат процесори AMD Ryzen Threadripper – базовият модел е 24-ядрен Ryzen Threadripper 3960X, а по-усъвършенстваните конфигурации предлагат по-новия 16-ядрен Ryzen Threadripper 5955WX. Най-мощната версия е оборудвана с 16-ядрен чип AMD Epyc 9124. Капацитетът на оперативната памет е съответно 96, 128 и 192GB.

Имайте предвид, че в една от конфигурациите видеокартите няма да могат да работят с пълна сила. По-специално, Ryzen Threadripper 5955WX има само 80 PCIe линии, а шестте графични карти изискват 96 линии, а също така трябва да заделите четири линии за SSD. Така че дори флагманският модел със 128 PCIe 4.0 линии ще има недостиг от тях. Охлаждането също е проблем: дали видеокартите няма да бъдат притиснати в кутията?

Що се отнася до цената, системите Autonomous Brainy се предлагат на цени от 9000 до 40 00 долара.