Програмистите все повече използват AI, а в някои компании това дори се превърна в състезание

В някои технологични компании буквално се появиха класации, които показват колко активно служителите използват алгоритми, базирани на изкуствен интелект. В следствие на това те натрупват внушителни сметки за използването на AI модели.

Обемът на взаимодействието на един от инженерите на OpenAI с AI ботовете за една седмица възлиза на 210 милиарда токена. Този обем текст би бил достатъчен за запълването на „Уикипедия“ цели 33 пъти.

Към момента това постижение е рекорд сред всички служители на компанията. В Anthropic един от потребителите на AI помощника за писане на програмен код Claude Code е натрупал сметка за повече от 150 000 долара за месец. В други технологични компании като Meta и Shopify мениджърите започнаха да отчитат колко активно служителите използват AI при оценката на ефективността на работата им. Ръководството насърчава онези, които активно прилагат AI инструменти и прави забележки на онези, които работят по друг начин.

Това е новата реалност за програмистите, които са сред първите усетили влиянието на AI с разпространението на технологията в икономиката. Предполагаше се, че невронните мрежи ще помогнат на технологичните компании да повишат производителността и да намалят разходите. Въпреки това, AI също породи скъпоструваща надпревара за статут, която получи името „tokenmaxxing“, сред AI програмистите, отчаяно стремящи се да докажат своята продуктивност.

В компании като Meta и OpenAI служителите се състезават в рамките на вътрешни класации, които показват колко токена (своеобразна единица за използване на AI, приблизително равностойна на част от дума) изразходва всеки служител.

Щедрите бюджети за използване на AI се превръщат в корпоративни бонуси за програмистите, подобни на здравната застраховка или безплатното хранене. Някои програмисти харчат хиляди долари месечно, опитвайки се да автоматизират колкото се може повече от работата си.

„Вероятно харча за Claude повече, отколкото е заплатата ми.“

коментира въпроса Макс Линдер, софтуерен разработчик от Стокхолм, чиито разходи за AI се поемат от неговия работодател

Доскоро напредналите потребители можеха да изразходват хиляди токени дневно, използвайки различни AI инструменти, като ChatGPT, Claude или Gemini. Например, студент, който пише есе, може да използва около 10 000 токена, което е приблизително равно на 7500 думи. За използването на милиони токени би било необходимо значително повече време, докато изразходването на милиарди токени беше практически невъзможно.

Ситуацията се промени с появата на AI агенти за генериране на програмен код. Такива системи могат да работят без човешки контрол с часове, преглеждайки и редактирайки големи бази с код и създавайки цели софтуерни продукти въз основа на заявки от потребители. Всеки AI агент е способен да създава допълнителни инструменти за обработка на отделни задачи, генерирайки хиляди токени на всеки етап. Някои AI системи като популярната платформа с отворен код OpenClaw са предназначени да работят 24 дни в денонощието и преработват информация без прекъсване, което още повече увеличава обема на консумираните токени.

„Ако имате няколко постоянно работещи AI агента, всеки един от тях консумира 700 млн. токена на седмица. Всъщност това не е толкова много.“

смята Ег Ердил, съосновател на ИИ-стартъпа Mechanize

Той също така оцени собственото си потребление на токени в диапазона от 1 до 10 млрд. на седмица.

Всичко това позволява на компаниите за изкуствен интелект, които продават токени да увеличат значително приходите си. Така например Anthropic удвои прогнозата си за приходите за първите два месеца на тази година, до голяма степен благодарение на бързия растеж на своите AI агенти за генериране на софтуерен код. OpenAI наскоро обяви, че AI помощникът за писане на код Codex е утроил броя на седмично активните потребители от началото на годината, а общото използване на Codex, измервано в токени се е увеличило пет пъти. Миналата година Google обяви, че AI моделите на компанията обработват над 1,3 квадрилиона токена месечно.

Интересно е, че дори при активно програмиране изразходването на милиард токени е доста трудно. Според източника, воденето на няколко проекта и работата по тях в продължение на 4-5 часа на ден е позволило да се изразходват няколко милиона токена.

Цифрите обаче се увеличават значително при усвояването на изкуството на AI мултитаскинга, когато програмистът работи в няколко прозореца и насочва десетки агенти към решаване на различни задачи. AI компаниите насърчават такива служители, награждавайки ги и приравнявайки използването на AI към повишаване на производителността. В случаите, когато програмистът иска да управлява няколко AI агенти, изпълняващи паралелно няколко задачи в различни прозорци, най-често работодателят с радост ще плати сметката за изразходваните токени.

В същото време някои технически специалисти изразиха загриженост, че техните колеги изразходват милиарди токени, което може да струва хиляди долари на ден само за да могат да се похвалят с това. Дори в компаниите за изкуствен интелект, където на служителите се предоставя неограничен достъп до собствени AI инструменти идеята, че такъв подход е продуктивен изглежда нереална.

Платените абонати на Claude и ChatGPT могат да използват фиксирано количество токени всеки месец в съответствие с избрания тарифен план. При необходимост потребителите могат да заплатят за увеличаване на лимита или да преминат към по-скъп план. Напредналите потребители са се научили да заобикалят системата, комбинирайки няколко абонамента или оферти в рамките на промоции. Един разработчик съобщи, че е успял да намери AI инструмент, който му позволява да харчи 20 долара на месец, но при това да използва количество токени на Claude, равностойно на 70 000 долара. Според него тази вратичка му е била полезна при едновременната реализация на шест проекта за разработка на софтуерни продукти. Към момента тази вратичка вече е била затворена от разработчиците на въпросния AI инструмент.

Като цяло много програмисти споделят, че AI помощниците при писането на програмен код ги правят по-продуктивни. Други отбелязват, че използването на AI е начин да покажат на колегите и ръководството, че вървят в крак с времето, тъй като класическото програмиране вероятно е на изчезване.

Някои експерти гледат положително на вътрешнокорпоративните класации, показващи колко активно служителите използват AI алгоритми. Въпреки това такива класации изобщо не отразяват колко качествена работа вършат служителите, които консумират най-много токени – дали правят нещо полезно или просто генерират безполезен код в опит да покажат колко ефективно се изпълнява работата. Вероятно с времето ще стане по-лесно да се отговори на тези въпроси.