Microsoft представи разсъждаващия ИИ-модел Phi-4-mini-flash-reasoning – 10 пъти по-бърз от аналозите си и се стартира дори на смартфон

Microsoft представи новия модел на изкуствен интелект Phi-4 mini-flash-reasoning, който предоставя разширени възможности за разсъждение за периферните и мобилни устройства, както и среди с ограничени ресурси. Използвайки новата хибридна архитектура SambaY, моделът е до 10 пъти по-бърз от останалите аналогични модели на Microsoft Phi и осигурява 2-3 пъти по-ниска латентност.

Phi-4-mini-flash-reasoning е модел с отворен код и 3,8 милиарда параметъра, оптимизиран за сложни математически разсъждения. Той поддържа дължина на контекста до 64 000 токена и е обучен върху висококачествени синтетични данни, което позволява надеждни и ефективни внедрявания, изискващи интензивна логика. Подобно на всички модели от семейството Phi, Phi-4-mini-flash-reasoning може да бъде внедрен на един графичен процесор.

Ключовата особеност на архитектурата SambaY е Gated Memory Unit (GMU) — прост, но ефективен механизъм за обмен на представянията между компонентите на модела. Използването на GMU значително повишава ефективността на декодирането и ускорява търсенето в дълги контексти, което осигурява висока производителност в широк спектър от задачи и позволява значително ускоряване на изводите без загуба на качество в разсъжденията.

Microsoft казва, че новият ИИ-модел може да се използва в адаптивните обучителни платформи, където обратната връзка в реално време е критична, като агенти с възможности за разсъждение на периферни устройства и в интерактивни образователни системи, които динамично регулират трудността на съдържанието въз основа на представянето на учениците.

Компанията подчертава, че високата производителност на модела в областта на математиката и структурираното мислене го прави особено ценен за образователните технологии, простите симулации и автоматизираните инструменти за оценяване, които изискват надеждни изводи с минимално време за реакция.

Моделът Microsoft Phi-4-mini-flash-reasoning е достъпен на платформата Hugging Face.