ChatGPT не консумира толкова много енергия, колкото се смяташе досега, показва ново проучване

Според по-ранни оценки ChatGPT консумира около 3 Wh енергия за отговор на едно запитване, което е 10 пъти повече от средната консумация на енергия при използване на търсене в Google. В нов доклад на изследователския институт Epoch AI, който проучва ключови тенденции и въпроси, които ще определят траекторията и управлението на изкуствения интелект тази статистика се опровергава и се посочва, че консумацията на енергия от чатбота на OpenAI е много по-ниска, отколкото се смяташе досега.

В доклада на Epoch AI се посочва, че базираният на големия езиков модел GPT-4o ChatGPT консумира само 0,3 Wh енергия, докато генерира отговор, или 10 пъти по-малко от посоченото преди.

„Консумацията на енергия всъщност не е толкова висока в сравнение с използването на обикновени уреди, отоплението или охлаждането на дома или използването на автомобил.“

заяви в разговор с TechCrunch анализаторът на данни на Epoch AI Джошуа Ю

Според експерта предишните оценки на потреблението на енергия в ChatGPT са се основавали на остарели данни. Експертът отбелязва, че предполагаемите „универсални“ статистически данни за потреблението на енергия на ChatGPT се основават на предположението, че OpenAI използва стари и неефективни чипове за управление и работа на изкуствения интелект.

„Някои от моите колеги посочиха, че най-широко приетата оценка от 3 Wh за изпълнение на заявка се основава на доста стари изследвания и въз основа на някои груби изчисления тази статистика изглеждаше твърде висока.“

добави Ю

Все пак трябва да се добави, че оценката на ChatGPT за енергийните разходи на Epoch AI също не може да се счита за неизменна, тъй като не взема предвид някои ключови възможности на ИИ, като например генерирането на изображения от чатбота.

Според експерта той не очаква потреблението на енергия на ChatGPT да се увеличи, но с усъвършенстването на ИИ-моделите те ще изискват повече енергия за работа. Водещите компании за разработване на ИИ, включително OpenAI се ориентират към разработване на т.нар. „разсъждаващи“ ИИ-модели, които не просто отговарят на даден въпрос, но и описват целия процес, довел до този отговор, което от своя страна изисква повече енергия.

Множество доклади от последните години показват, че технологии като Copilot и ChatGPT (или по-скоро хардуерът, на който работят) консумират за охлаждане обем, равен на обем на една бутилка вода, когато генерират отговор на заявка. Тези констатации следват по-ранен доклад, в който се посочва, че комбинираното потребление на енергия на Microsoft и Google надхвърля това на повече от 100 държави по света.

В едно от по-новите проучвания подробно се посочва, че моделът GPT-3 на OpenAI консумира четири пъти повече вода, отколкото се смяташе досега, докато GPT-4 изразходва обеми, равняващи се на до три бутилки вода, за да генерира само 100 думи. Съвсем очевидно е, че моделите на изкуствен интелект започват да консумират все повече ресурси с напредването си. Резултатите от последното проучване обаче показват, че същият ChatGPT може да не е толкова ненаситен, колкото се смяташе досега.