Облачните провайдери оставиха ИИ стартъпите без достъп до GPU – целият капацитет беше изразходван за Anthropic и OpenAI

Облачните провайдери Microsoft, Amazon и CoreWeave са запазили мощностите за графични процесори (GPU) за Anthropic, OpenAI и собствените си екипи, оставяйки стартъп компаниите в областта на изкуствения интелект с месеци натрупвания на задачи. Недостигът на изчислителни ресурси засегна стартиращите компании, подкрепени от фирмите за рисков капитал Sequoia Capital, Founders Fund, General Catalyst и Andreessen Horowitz. Наемите са се увеличили с повече от 25% през последните шест месеца и според Azure недостигът ще продължи поне до края на 2026 г.

Дефицитът засегна широк кръг от ИИ компании, като малките и средни играчи са принудени да се конкурират за оставащия капацитет на постоянно нарастващи цени. Партньорът на General Catalyst, Хемант Танеджа, изпрати въпросници до основателите на стартиращи компании, в които фондът е инвестирал, за да оцени реалния им достъп до графични процесори. Във въпросника Танеджа написа: „Получаваме множество сигнали, че достъпът до изчислителни ресурси, предимно до графични процесори, се е превърнал в едно от основните ограничения за вашето развитие тази година.“ В отговор General Catalyst създаде споделени изчислителни пулове и възнамерява да преговаря директно с доставчиците от името на стартъп компаниите в своите инвестиционни портфейли.

Ситуацията напомня за началото на 2023 г., когато големите доставчици ограничиха публичния достъп до ресурси в полза на вътрешни операции и ключови клиенти като OpenAI. По това време Andreessen Ventures и Index Ventures започнаха да формират свои собствени GPU пулове за стартиращите компании в своите портфолиа. Настоящият недостиг обаче е по-остър: рязкото увеличение на търсенето на инструменти за разработка на ИИ софтуер принуди платформите рязко да намалят квотите за по-малките клиенти, а значителна част от двугодишните и тригодишните договори, подписани от стартиращите компании в предишните години, сега изтичат и доставчиците на облачни услуги се възползват от това, за да преразпределят капацитет към по-платежоспособните клиенти. Дългосрочните сделки на стойност много милиарди долари, които Microsoft, Amazon и CoreWeave подписаха с Anthropic и OpenAI, осигуриха на тези компании приоритетен достъп до GPU. Anthropic обаче все още е изправена пред сериозен недостиг на капацитет на фона на бързия растеж на бизнеса. Според служители на компанията, Azure им е казал, че недостигът ще продължи поне до края на 2026 г.

Microsoft е изградила тристепенна система за разпределение на графичните процесори: приблизително 1000 големи годишни платци се радват на приоритетен достъп, средните компании получават поддръжка от специализирани мениджъри, а малките и микропредприятията работят чрез партньорски агенти. За да наеме чипове Blackwell, клиентът трябва да закупи поне 1000 бройки и да подпише договор за минимум една година с бюджет от десетки милиони долари. Редовните клиенти чакат по-старите чипове на NVIDIA от седмици до месеци. Azure следи използването и отменя достъпа, ако е неактивен дори за няколко часа; едновременно с това компанията постепенно премахва компютърните предимства в програмата си за подкрепа на стартиращите компании: компаниите, които не използват пълноценно своите специализирани чипове, ще загубят трайно достъп до графичните процесори.

Главният изпълнителен директор на Lightning AI, Уил Фалкон, съобщи, че платформата управлява приблизително 40 000 графични процесора, докато приблизително 40 предприятия чакат с общо търсене до 400 000 чипа. За шест месеца цените са се увеличили с повече от 25%: почасовата цена на чип се е повишила от 1,60 долара до над 2 долара, с още по-високи премии за популярните конфигурации. Основният флот се състои от NVIDIA чипове, базирани на архитектурата Hopper от предишно поколение.

Krea, четиригодишен разработчик на модели за генериране на изображения с изкуствен интелект, е набрала 83 милиона долара с участието на Andreessen Ventures и Bain Capital Ventures. Съоснователят и главен изпълнителен директор на компанията, Виктор Перес, обясни, че преди шест месеца няколко доставчици са търсили партньорства: компанията е подписала шестмесечен договор за лизинг на няколкостотин NVIDIA Blackwell чипа на цена от 2,80 долара на час. Когато Krea се е опитала да разшири капацитета си за обучение на ИИ модели от нулата, търговските представители на доставчиците са спрели да отговарят или са се позовали на липса на ресурси; когато е установен контакт, те са поискали тригодишни договори и значително увеличение на цената. В рамките на няколко дни необходимите клъстери са били закупени от други клиенти.

В крайна сметка Krea подписа едногодишен договор за същите чипове на цена от 3,70 долара на час, което е увеличение с 32%, макар и сравнително скромно по пазарните стандарти. „Недостиг на изчислителна мощност в критичен момент може да унищожи компанията“, предупреди Перес, добавяйки, че увеличението на цените е управляемо, докато прекъсванията на доставките биха били катастрофални. Друг основател заяви, че планира да наеме около 1000 графични процесора с висока пропускателна способност. Представител на NVIDIA предупреди за огромни опашки, като дневната цена за наем на такъв клъстер надхвърля 70 000 долара и въпреки това все още няма налични ресурси.

Някои стартиращи компании изграждат собствена инфраструктура. Колин Маклелан, основател на Collide, разработчик на AI агенти за нефтената и газовата индустрия, който набра 14 милиона долара в начален кръг, обяви, че компанията възнамерява да инвестира приблизително 500 000 долара в графични процесори на NVIDIA, за да разгърне частен изчислителен клъстер. Според изчисленията на Маклелан, въпреки високите първоначални разходи, притежаването на собствена инфраструктура елиминира риска от прекъсвания и в течение на няколко години е по-евтино от многогодишен наем.