Поради резкия ръст на цената на хардуера, необходим за обучение и внедряване на AI-технологии, най-съвременния изчислителен ускорител NVIDIA H100 се продава в eBay за над $40 000.
Пионерът в игралната индустрия и бивш технологичен консултант на Meta Джон Кармак обърна внимание на ситуацията. В петък, най-малко осем ускорителя NVIDIA H100 бяха предложени от продавачи в eBay на цени, вариращи от $39 995 до почти $46 000. По-рано някои търговци ги продаваха за $36 000 за брой.
Флагманският ускорител H100, който е наследник на модела A100 на стойност $10 000, беше представен от NVIDIA миналата година.
Разработчиците използват H100 за изграждане на така наречените езикови модели (LLM), които са в основата на ИИ-приложенията, като ChatGPT на компанията OpenAI. Това са много скъпи и енергоемки системи, които могат да обработват терабайти информация, необходима за обучение на AI само за няколко дни или седмици.
Процесът на обучение на AI-моделите, особено големи като GPT, изисква едновременна работа на стотици ускорители от NVIDIA. Компанията Microsoft похарчи стотици милиони долари за закупуване на десетки хиляди ускорители NVIDIA A100 от предишно поколение, на базата на които беше обучен чат-ботът ChatGPT за OpenAI.
Продуктовата гама на NVIDIA включва и готови суперкомпютри DGX, които са с осем изчислителни графични ускорителя наведнъж. Тази година компанията стартира облачната услуга DGX Cloud, която ви позволява да наемете достъп до системи, като DGX A100 за $37 000 на месец.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
