ИИ-разработчиците започнаха да преминават към малките AI-модели – те са по-евтини и по-икономични

Технологичните гиганти и стартъп компаниите преминават към по-малките и по-ефективни AI-модели, тъй като се стремят да намалят разходите и да подобрят производителността. Тези модели, за разлика от техните „големи братя“ като GPT-4, могат да бъдат обучени на по-малко количество данни и да се специализират в решаването на специфични проблеми.

Microsoft, Google, Apple и стартъп компании като Mistral, Anthropic и Cohere все повече прибягват към малките и средни по размер езикови модели с изкуствен интелект. За разлика от широкомащабните модели (LLM) като GPT-4 на OpenAI, които използват над един трилион параметри и струват над 100 милиона долара за разработване, компактните модели се обучават на по-тесни набори от данни и могат да струват по-малко от 10 милиона долара, използвайки по-малко от 10 милиарда параметри.

Microsoft, един от лидерите в областта на AI, представи семейството малки модели, наречено Phi. Според изпълнителния директор на компанията Сатя Надела, тези модели са 100 пъти по-малки от безплатната версия на ChatGPT, но в същото време се справят с много задачи почти толкова ефективно. Юсуф Мехди, главен търговски директор на Microsoft, отбеляза, че компанията бързо осъзнава, че работата с големи AI-модели е по-скъпа, отколкото първоначално се смяташе, което накара Microsoft да търси по-рентабилни решения.

Други технологични гиганти също не пропускат подобни възможности. Google, Apple, както и Mistral, Anthropic и Cohere пуснаха свои собствени версии на малки и средни модели. Apple, по-специално, планира да използва модели за локално стартиране на изкуствения интелект, директно на смартфоните, което трябва да подобри скоростта и сигурността. В същото време консумацията на ресурси от смартфоните ще бъде минимална.

Експертите отбелязват, че за много задачи, като обобщаване на документи или създаване на изображения, големите модели може да са излишни. Иля Полосухин, един от авторите на фундаменталната статия на Google от 2017 г. за изкуствения интелект, образно сравни използването на големи модели за прости задачи с карането на танк до магазина за хранителни стоки. „Изчисляването на 2+2 не трябва да изисква квадрилиони операции“, подчертава той.

Компаниите и потребителите също търсят начини за намаляване на разходите за работа с генеративните AI-технологии. Според Йоав Шохам (Yoav Shoham), съосновател на базираната в Тел Авив компания за изкуствен интелект AI21 Labs, малките модели могат да отговорят на различни въпроси само за една шеста от цената на големите езикови модели.

Интересното в случая е, че ключовото предимство на малките модели е възможността за фина настройка за конкретни задачи и набори от данни. Това им позволява да работят ефективно в специализираните области на по-ниска цена, като например само в правото.

Експертите обаче отбелязват, че компаниите няма да се откажат напълно от LLM. Например Apple обяви интегрирането на ChatGPT в Siri за изпълнение на сложни задачи, а Microsoft планира да използва най-новия модел на OpenAI в новата версия на Windows. А компании като Experian в Ирландия и Salesforce в САЩ вече преминаха към по-малки AI-модели за чатботове и установиха, че те осигуряват същата производителност като по-големите модели, но при значително по-ниски разходи и с по-малко забавяне при обработката.

Преминаването към малки модели идва, тъй като прогресът на големите, публично достъпни AI модели се забавя. Експертите обясняват това с липсата на висококачествени нови данни за обучение и като цяло посочват новия и важен етап в развитието на индустрията.