OpenAI започна да използва AI ускорителите TPU на Google, за да захранва своя чатбот с изкуствен интелект ChatGPT и свързаните с него услуги. Това е първата значителна стъпка на компанията от изключителното използване на чипове на Nvidia като част от стратегията за намаляване на зависимостта от инфраструктурата, управлявана от Microsoft, съобщaва The Information.
OpenAI наема Tensor Processing Units (TPU) от Google Cloud, за да намали разходите, свързани с изчисленията на инференции – процесът на използване на AI модел за генериране на резултати в отговор на заявки след приключване на обучението му. Решението на OpenAI да използва TPU на Google би могло да означава повишаване на техния статут като икономически ефективна алтернатива на широко използваните графични процесори на Nvidia, които доминират на пазара на AI ускорители, отбелязва investing.com.
Преди това OpenAI използваше хардуер, базиран на чипове на Nvidia, за обучение и внедряване на своите модели на ИИ, най-вече чрез партньорства с Microsoft и Oracle. И все пак, новият партньор в лицето на Google, макар и да предоставя на OpenAI известна изчислителна мощ, базирана на TPU, не ѝ предлага най-мощните версии на своите AI ускорители, твърдят източниците на The Information.
Следователно Google е запазила най-усъвършенстваните версии на TPU за вътрешна употреба, включително за работа по собствените си големи езикови модели в рамките на проекта Gemini. Въпреки това, за OpenAI достъпът до дори по-слаби версии на TPU представлява стъпка към диверсифициране на изчислителната инфраструктура на фона на нарастващото търсене на чипове за изкуствен интелект в индустрията.
На този етап не е ясно дали OpenAI ще използва TPU на Google за обучение на AI модели или ще се ограничи да го използва само за инференции. С увеличаването на конкуренцията и задълбочаването на ограниченията на ресурсите хибридната инфраструктура може да осигури на компанията по-голяма гъвкавост при използването на изчислителната мощност за мащабиране.
Всичко важно от света на технологиите, директно в пощата ти.
С абонирането приемате нашите Условия и Политика за поверителност. Може да се отпишете с един клик по всяко време.
Коментирайте статията в нашите Форуми. За да научите първи най-важното, харесайте страницата ни във Facebook, и ни последвайте в Google Новини, TikTok, Telegram и Viber или изтеглете приложението на Kaldata.com за Android, iPhone, Huawei, Google Chrome, Microsoft Edge и Opera!
