По-интелигентен, но по-гладен: GPT-5 консумира до 20 пъти повече енергия от предишните AI модели

Според The Guardian, наскоро представеният AI модел GPT-5 от OpenAI ще изисква до 20 пъти повече енергия за обработка на идентична заявка в сравнение с AI модел от средата на 2023 година. OpenAI, подобно на повечето си конкуренти не публикува официална информация за консумацията на енергия. През юни главният изпълнителен директор на компанията Сам Алтман заяви, че тя е 0,34 Wh електричество и 0,00032176 литра вода за заявка, но не беше съобщено за кой AI модел става дума. Няма и документация за тези данни.

Според говорител на Университета на Илинойс, GPT-5 ще консумира много повече енергия в сравнение с предшестващите го модели както при обучение, така и при инференциране (работа).

Нещо повече, в деня на премиерата на GPT-5 изследователи от Университета на Роуд Айлънд са установили, че GPT-5 може да консумира до 40 Wh, за да генерира отговор със средна дължина от приблизително 1000 лексеми. За сравнение, през 2023 година за обработката на една заявка бяха необходими около 2 Wh.

Сега средната консумация на GPT-5 е малко над 18 Wh на заявка, което е повече от всички други AI модели, сравнявани от учените, с изключение на April o3 и DeepSeek R1 във версията си „reasoning“. Предишният AI модел GPT-4o консумира значително по-малко. 18 Wh се равняват на 18 минути работа на електрическа крушка с нажежаема жичка. Като се има предвид, че ChatGPT обработва около 2,5 милиарда заявки дневно, той консумира енергия, достатъчна да захрани 1,5 милиона домакинства в САЩ.

Като цяло учените не са изненадани, тъй като GPT-5 е многократно по-продуктивен от своите предшественици. По-рано през лятото стартъпът за изкуствен интелект Mistral публикува данни, които разкриват „силна корелация“ между мащаба на AI модела и потреблението му на енергия. Според неговите данни GPT-5 използва с един порядък повече ресурси от GPT-3. В същото време мнозина предполагат, че дори GPT-4 е 10 пъти по-голям от GPT-3.

Съществуват обаче и допълнителни фактори, които влияят върху потреблението на ресурси. Например, GPT-5 използва по-ефективен хардуер и нова, по-икономична експертна архитектура с оптимизирано потребление на ресурси за отговор, което заедно би трябвало да намали консумацията на енергия. От друга страна, GPT-5 е „разсъждаващ“ модел, способен да обработва видео и изображения, така че действителното потребление на ресурси вероятно ще бъде много високо – особено в случай на дълготрайни разсъждения.

За да изчисли консумацията на енергия, екипът на Университета на Роуд Айлънд умножи средното време, необходимо на AI модела да отговори на заявка, по средната мощност, консумирана от модела по време на работа.

Важно е да се отбележи, че това са само приблизителни оценки, тъй като е трудно да се намери надеждна информация за това как моделите използват конкретни чипове и как се разпределят заявките. Обявената от Altman стойност от 0,34 Wh е почти идентична с данните, изчислени за GPT-4o.

Учените подчертават необходимостта от повече прозрачност от страна на компаниите, занимаващи се с изкуствен интелект, тъй като се пускат все повече модели с висока производителност. Университетът смята, че OpenAI и нейните конкуренти трябва да оповестят публично въздействието на GPT-5 върху околната среда. Още през 2023 година беше съобщено, че за обучението на модел на ниво GPT-3 са необходими около 700 000 литра вода, а за диалог от 20-50 въпроса в ChatGPT – около 500 милилитра. През миналата година беше съобщено, че за генерирането на 100 думи в GPT-4 са необходими до 3 бутилки вода.