Краят на празните обещания: Как „токеномиката“ може да спаси AI компютрите

В момента на пазара за персонални компютри се наблюдават някои интересни тенденции и, което е по-важно, съществува потенциал за още по-значителни промени през следващата година. В общи линии прогнозите бяха за спад в общото количество продадени персонални компютри и това наистина започва да се случва, измерено в конкретни бройки.

Предизвикано главно от огромното увеличение на цените на паметта и устройствата за съхранение, средните продажни цени на персоналните компютри значително се повишиха през последната година. Това е понижило общото търсене, особено сред ценовочувствителните потребители и в други сегменти на персоналните компютри от ниския ценови клас.

Въпреки това големите производители на персонални компютри, по-конкретно Dell, HP и Lenovo, отчитат по-високи общи приходи от продажбите на персонални компютри и очакват този растеж да продължи до 2026 г. Търсенето на персонални компютри от по-високия ценови клас с по-големи възможности остава силно, а допълнителните приходи, генерирани от тези значително по-скъпи машини, компенсират загубите от моделите с по-ниски цени. Това само по себе си си е едновременно интересно и изненадващо.

Въпреки това може да се каже, че може би сме на прага на още по-голяма промяна: значително увеличение на търсенето на компютри с AI. Експлозивният растеж в използването на AI в предприятията създава изцяло нова категория корпоративни разходи, така наречените „токени“, а необходимостта от контрол върху тези разходи най-накрая би могла да даде икономическа обосновка за AI компютрите, която индустрията досега не успяваше да формулира.

Големите промени

Вече настъпиха няколко структурни промени в начина, по който компаниите възприемат своите компютърни нужди, а предстоят още няколко, които сочат към тази промяна.

На първо място е фактът, че компаниите внезапно се наложи да се справят с нова категория разходи на стойност няколко милиона долара: разходите за извличане на изводи от AI, които все по-често се измерват и управляват чрез използването на токени. Между тенденции като „tokenmaxxing“ и вече широко разпространеното убеждение, че компаниите рискуват да изостанат от конкурентите си, ако не използват новите възможности на GenAI и агентския AI възможно най-агресивно, организациите са принудени да пренасочват огромни суми към нещо, за което преди това едва ли са се замисляли.

Първоначално общото вълнение и чувството за спешност около използването на GenAI (генеративен ИИ) и агентския AI означаваха, че се извършваше малко надзор или анализ на тези усилия. Сега обаче компаниите осъзнават, че тези въпроси, свързани с токеномиката, ще представляват значителна и дългосрочна част от корпоративните им бюджети, така че се обръща значително повече внимание на това по какъв начин могат да се управляват тези разходи могат да бъдат управлявани.

В началото практически всички заявки за токени се изпращаха към облачни услуги. В началото това не беше сериозен проблем, тъй като повечето токени се генерираха безплатно, ситуация, която все още до голяма степен е актуална в други части на света, най-вече в Китай.

Това се промени драстично преди около година, когато големите доставчици на ИИ модели започнаха да налагат такси за използването на токените. Вече видяхме как големи доставчици на модели като Anthropic достигат, според някои изчисления, зашеметяващи годишни приходи от 65 милиарда долара.

Новите възможности за генериране на токени

В същото време редица технически постижения отварят нови възможности за генериране на токени. Подобренията в производителността на по-малките модели, драстичният ръст в използването на персонализирани модели с отворена тежест и нарастващата достъпност на инфраструктура за AI, проектирана специално за корпоративни центрове за данни, всички те стимулират нови начини за задоволяване на изчислителните изисквания, свързани с AI.

Интересно е, че възходът на хибридните AI архитектури, които съчетават изчислителни ресурси в облака, на място и в самите устройства, предоставя на организациите по-голям избор относно мястото, където се генерират токените. Също така все повече се налага разбирането, че не всички AI заявки трябва да се обработват от модели от най-високо ниво. По-малките и по-специализирани модели могат да се справят с много от тези заявки и, в някои случаи, да предоставят по-добри и по-точни отговори.

Подходящо оборудваните AI PC-та, „настолни“ работни станции като тези, базирани на чипа GB10 на Nvidia и Ryzen AI Max/Max+ 400x на AMD, се вписват перфектно в този нов сценарий. Те могат да поддържат много от по-мощните и компактни модели, които се появяват ежедневно, и предлагат интересна нова икономична алтернатива за генериране на токени.

Локалните AI модели

Всъщност някои твърдят, че тези системи са способни да стартират и използват локални ИИ модели, еквивалентни на най-модерните модели от преди около година. Освен това, поради нарастващия брой ИИ приложения и агентски платформи, които използват модели с отворени тегла, тези машини могат да работят и с по-специализирани приложения и решения.

Освен всички тези технически причини обаче най-простият и най-убедителен аргумент в полза на AI PC-тата е икономиката, или по-точно, токеномиката. За потребители, които активно използват изкуствен интелект, пренасочването дори на 20% от потреблението на токени от скъпите облачни модели към локални изчисления би могло значително да съкрати периода на възвръщаемост на инвестицията в AI PC на стойност 4 000 долара. В някои сценарии с интензивно използване това би могло потенциално да съкрати този период до месеци, вместо до години.

Ако добавим и възможността да се пренасочат, да речем, още 30% от заявките за токени към локален сървър, оборудван с графичен процесор (GPU), или към корпоративна „фабрика за AI“, както ги нарича Дженсен Хуанг от Nvidia, спестяванията биха могли да бъдат дори по-големи.

ROI

Разбира се, за тези покупки ще са необходими първоначални капиталови разходи, но изготвянето на бизнес модел за възвръщаемост на инвестициите (ROI – Return on Investment), който да ги оправдае, става все по-лесно с всеки изминал ден. Използването на новосъздадените фондове за токени и бюджетни линии, които организациите са били принудени да създадат, би могло да улесни още повече аргументацията.

Колкото и логично да звучи всичко това, със сигурност има препятствия по този път. Първо, процесът на закупуване на компютри в повечето организации е структуриран по начин, който никога не би могъл да оправдае този вид покупки.

Традиционно компаниите разполагат с три- до петгодишни планове за жизнения цикъл на своите персонални компютри и се стремят да поддържат цените на закупуване в рамките на историческия диапазон от 1 000 до 2 000 долара за корпоративните системи. Преминаването към внедряване в целия парк на значително по-скъпи машини би изисквало промени на ниво висше ръководство в утвърдени и вероятно строго защитени процеси.

Какво ще се промени

Ключовата промяна е, че предприятията трябва да престанат да разглеждат компютрите с AI строго като покупки на крайни устройства и да започнат да ги възприемат като разпределена AI инфраструктура.

Второ, все още не е решен проблемът как най-добре да се разпределят и координират различните елементи на едно AI запитване или работен поток между различните изчислителни ресурси в хибридна AI среда.

Много организации очевидно работят по този проблем, а индустриални стандарти като MCP и A2A спомагат за създаването на основата за оперативна съвместимост, необходима за по-хетерогенно изчисление с AI. Това, което все още не е напълно развито, е интелигентният слой, способен динамично да определя кой модел и какъв изчислителен ресурс трябва да обработва всяка част от работния поток въз основа на възможности, цена, латентност, поверителност и наличност.

За щастие наблюдаваме и опити от страна на някои от най-големите доставчици на ИИ модели да предоставят версии на своите модели, които да работят в различни среди. Преди няколко месеца Google обяви споразумение с Dell, което дава възможност някои версии на Gemini да се изпълняват върху AI инфраструктурата на Dell в рамките на предприятията.

Икономическите стимули

Освен това съществуват ясни икономически стимули за компании като Anthropic и OpenAI да създават инструменти, които им позволяват да поддържат известна степен на използване на AI в хибридна среда. Част от повечето AI заявки вероятно ще продължи да изисква отговор от най-авангардните модели. Чрез създаването на инструменти, които правят този процес безпроблемен, тези компании могат да гарантират определено ниво на използване, дори когато организациите работят за намаляване на зависимостта си от най-модерните ИИ модели, нещо, което неизбежно ще се случи.

Накратко казано, по-добре е да се координират 100% от дейностите на предприятието в областта на AI и директно да се монетизират 30% от тях, отколкото да се настоява за обработка на всичките 100% и да се рискува да бъдат подминати.

За да бъдем ясни, AI компютрите не са единственото решение на нарастващото икономическо предизвикателство, създадено от масивното потребление на токени.

По същия начин, по който ранното, неограничено използване на облачните изчисления доведе до появата на FinOps платформи за управление на облачното потребление, със сигурност ще станем свидетели на драстичен ръст както в броя, така и в разнообразието на решенията, предназначени да помогнат на компаниите да се справят с предизвикателствата, свързани с токеномиката, тъй като използването на AI продължава да нараства.

Локалният изкуствен интелект

От практическа и икономическа гледна точка обаче мощните AI компютри и работни станции могат и трябва да се окажат мощни инструменти, които да помогнат на организациите да постигнат тези цели. Иронично е, че „убийственото приложение“ за AI компютрите може изобщо да не се окаже конкретно AI приложение. Може просто да е икономиката.

Ако предприятията установят, че поставянето на повече изчислителна мощност за изкуствен интелект на бюрата на служителите може значително да намали бързо нарастващите разходи за извличане на заключения от облака, токеномиката на изкуствения интелект най-накрая би могла да предостави на AI компютрите така необходимата им убедителна история за възвръщаемостта на инвестициите (ROI), която досега им липсваше.