IBM представи серия от езикови модели Granite, за чието изпълнение е необходим само един ИИ ускорител NVIDIA V100

IBM представи серия от големи езикови модели (LLM) – Granite като част от своята платформа за изкуствен интелект watsonx. Според IBM това не е единственото допълнение към watsonx – компанията ще добави инструменти, които опростяват създаването на набори от данни за обучение на LLM, както и софтуер, който улеснява адаптирането на невронните мрежи към нови видове задачи.

Представеният през май watsonx е пакет от инструменти, който помага на корпоративните клиенти да създават генеративни модели на изкуствен интелект и да изпълняват свързани задачи, като например адаптиране на невронни мрежи към изискванията за сигурност. Новите модели ще бъдат достъпни чрез компонента watsonx.ai, който вече разполага с готови шаблони.

Серията Granite включва LLM Granite.13b.instruct и Granite.13b.chat, създадени с помощта на набор от данни с размер 2,4 TB, подбрани от експертите на компанията. Моделите са способни да правят резюмета на документи, да извличат информация и да генерират текст. И двата модела имат по 13 милиарда параметри. Поради относителната им компактност един ИИ ускорител NVIDIA V100, който е значително по-евтин от A100 и H100 е достатъчен за работата на всеки от тях. С други думи, дори много малки компании ще могат да се сдобият със собствена невронна мрежа.

IBM съобщава, че се подготвят и други модели, а watsonx.ai освен разработките на IBM, ще получи Llama-2 (разработен от Meta) и невронната мрежа StarCoder, предназначена за програмисти – тя беше представена през май от ServiceNow и Hugging Face. Също така watsonx.ai получи механизъм за генериране на синтетични данни, използвани за обучение на персонализирани LLM, и инструмент за адаптиране на параметрите на невронната мрежа с цел да я научи да изпълнява нови задачи без нужда от преобучение.

Освен това стана известно, че IBM е разширила възможностите на компонента watsonx.data за управление на набори от данни, предназначени за обучение на ИИ. Съобщава се, че инструментът ще се сдобие с нови функции благодарение на добавянето на „разговорен“ интерфейс. Ще бъдат добавени и други функции, например работа с векторни бази данни.