Google намери начин как да ускори AI обучението с 13 пъти и да намали консумацията на енергия 10 пъти

Google DeepMind разработи нов метод за обучение на изкуствен интелект, който обещава значително да подобри ефективността на AI-системите и да намали консумацията на енергия в областта на изкуствения интелект. Технологията може да бъде отговорът на нарастващите опасения относно въздействието на AI дейта-центровете върху околната среда.

Изследователската лаборатория DeepMind на Google разкри иновативен метод за обучение на модели с изкуствен интелект, наречен JEST (Joint Example Selection), който може да доведе до драматични промени в областта на AI. Според публикувано проучване, новата технология осигурява 13-кратно намаляване на броя на повторенията на обучението и 10-кратен спад в консумацията на енергия в сравнение със съществуващите методи, съобщава Tom’s Hardware. С други думи, ИИ може да бъде обучен с порядък по-бързо и по-ефективно.

JEST се отличава от традиционните подходи по това, че се учи от цели масиви данни, а не от отделни части. JEST първо изгражда по-малък AI-модел, който оценява качеството на данните от източниците и класира пакетите по качество. След това сравнява своя резултат с набора от по-нискокачествени данни. След това JEST определя кои пакети са най-подходящи за обучението и по-големият модел се обучава въз основа на най-добрите данни, избрани от по-малкия модел.

Ключов фактор за успеха на JEST е използването на висококачествени, внимателно подбрани масиви от данни. Това прави метода особено взискателен към първоначалната информация и може да ограничи използването му от аматьори и непрофесионални разработчици.

Интересното е, че появата на JEST съвпадна с нарастващите опасения относно консумацията на енергия от AI-системите. Според изследователите, работните натоварвания на AI са консумирали около 4,3 GW електроенергия през 2023 г., което е сравнимо с годишното потребление на Кипър. Освен това една заявка към ChatGPT изразходва 10 пъти повече енергия от заявка за търсене в Google.

Експертите отбелязват, че новата технология може да се използва по два начина: за намаляване на потреблението на енергия при запазване на текущата производителност или за постигане на максимална производителност при същото ниво на потребление на енергия. Изборът на посока ще зависи от приоритетите на компанията и пазарните тенденции.

Внедряването на JEST може да има значително въздействие върху AI-индустрията, като се има предвид високата цена за обучение на настоящите модели. Например разходите за обучение на GPT-4 се оценяват на 100 милиона долара, а бъдещите модели може да изискват още по-големи инвестиции. По този начин методът JEST, представен от Google DeepMind, отваря принципно нови възможности за повишаване на ефективността и намаляване на разходите в AI-технологията. Практическото приложение на метода предстои да бъде оценено.