Google представи Gemma3 270M – изкуствен интелект, който работи дори на смартфон

Излезе Gemma 3 270M — най-малкият в семейството отворени модели Gemma 3, предназначен за тесни задачи и допълнително обучение. Новият продукт е с отворен интерфейс и вече е достъпен на Hugging Face. За Gemma 3 270M са налични QAT-чекпойнти, което ви позволява уверено да стартирате модела в INT4 с минимална загуба на качество — това е важно за работата с маломощни устройства.

Само с 270 милиона параметъра, Gemma 3 270M поддържа 140 езика, речник от 256 хиляди токена и контекст до 32 хиляди токена. INT4 версията на модела, работеща на Google Pixel 9 Pro, използва само 0,75% от батерията в „25 диалога“ (вероятно става дума за 25 размени на въпроси и отговори). Липсва мултимодална поддръжка.

Google отбелязва, че Gemma 3 270M е достигнал напълно ново ниво на следване на инструкции сред компактните модели. Компанията подчертава, че това е основната особеност на модела: не става въпрос за чатбот, а за компактен бот, който следва инструкции.

Основната област на приложение на Gemma 270M е преобучение на модела за конкретна задача, което в случая с тази версия отнема няколко часа. Изкуственият интелект може да класифицира и структурира текст, да извлича данни и др. Поради ниската консумация на ресурси, моделът може да бъде вграден в приложение или уебсайт — като пример е показан офлайн-генератор на приказки за лека нощ. Възможно е също така да се преобучи цял „оркестър“ от модели, където всеки да бъде пригоден за отделна задача.