OpenAI не е доволна от някои AI чипове на Nvidia и търси алтернативи

Широко разпространено е мнението, че OpenAI и Nvidia са основните бенефициенти от бума на изкуствения интелект и имат силно партньорство, което скоро ще бъде подкрепено от сделка на стойност 100 млрд. долара. Източници обаче отбелязват, че ефективността на AI ускорителите на Nvidia в инференса може да не е подходяща за OpenAI, поради което последната се стреми да намери подходяща алтернатива.

За това съобщи Ройтерс, въпреки че публично OpenAI и Nvidia продължават да изразяват изключителна степен на взаимна лоялност. Според източника OpenAI би искала да замени до 10% от AI ускорителите в своята компютърна инфраструктура с решения на трети страни, които биха се справили по-добре със задачите по инференс – т.е. биха работили по-ефективно с вече обучени големи езикови модели.

OpenAI дори искаше да сключи споразумение с Cerebras и Groq за доставка на AI чипове, разработени от тези стартъпи, но Nvidia реши да изпревари събитията, като купи последната компания миналата година за 20 млрд. долара. Groq преди това водеше преговори с други инвеститори за инвестиране на до 14 млрд. долара в капитала си, но Nvidia предложи повече, като същевременно гарантира много специфична структура на сделката. Според условията на сделката Groq запазва възможността да лицензира своите проекти за други компании, но на практика Nvidia прехвърля основните разработчици на AI ускорители от Groq към своя персонал. Всъщност Groq вече може да предлага на останалите компании само софтуер за облачни системи. В същото време има въпроси относно осъществимостта на сделката, в рамките на която Nvidia предложи да отдели до 100 млрд. долара капитал за OpenAI. Засега страните отричат да има проблеми в тази област, въпреки че Nvidia подчертава, че ангажиментите ѝ не са строги.

OpenAI успя да сключи сделка с Cerebras, като сега първата ще закупи от втората така наречените „царски AI ускорители“, които се представят добре в задачите по инференс. Проблемът на OpenAI досега беше, че е силно зависима от AI ускорителите на Nvidia и AMD, които използват външна, макар и много бърза HBM памет, а в инференса се представят по-добре чипове с голям обем интегрирана памет. Такива чипове се предлагат от Groq и Cerebras, както и от конкурентната Google. Между другото, Anthropic успя да се споразумее с последната, така че OpenAI трябваше да търси нов AI чип с голямо количество вградена памет.

Според някои доклади OpenAI се е сблъскала с неефективността на AI ускорителите на Nvidia при създаването на агента с изкуствен интелект Codex, който помага на разработчиците да създават програмен код. Обикновените потребители на ChatGPT не изпитват такива проблеми, но за програмистите OpenAI ще се опита да предложи други хардуерни решения, като например продукти на Cerebras, за да подобри производителността на съответните софтуерни инструменти.