Новият метод на Microsoft позволява на моделите с изкуствен интелект да се учат от грешките си, точно както правят хората

Изследователи от Microsoft Research Asia, Пекинския университет и Университета Сиан Дзяотун са разработили нова методология, която кара големите езикови модели да се учат от грешките си, подобно на начина, по който се учат хората. Стратегията включва създаване на грешни пътища за решаване на проблеми, коригирането им с помощта на GPT-4 и след това обучение на оригиналните модели върху коригираните данни. Този подход значително подобрява способността на моделите на ИИ да решават математически задачи. Ученето от грешките е важен фактор за разработването на по-ефективни системи с изкуствен интелект.

Изследователите представиха стратегията „Обучение от грешките“ (Learning from Mistakes – LeMa), която учи изкуствения интелект да се съобразява и да коригира собствените си грешки, което подобрява способността му да разсъждава. Изследователите са черпили вдъхновение от човешките процеси на учене, при които ученикът се учи от грешките си, за да подобри бъдещите си резултати. Те приложиха тази концепция към големите езикови модели (LLM), като използваха двойки данни с корекция на грешките, генерирани от GPT-4, за да ги прецизират.

В началото изследователите са използвали модели като LLaMA-2, които генерират грешни пътища за решаване на математическите текстови задачи. След това GPT-4 идентифицира грешките в разсъжденията, обяснява ги и предоставя коригирани разсъждения. Изследователите използват коригираните данни за по-нататъшно обучение на базовите модели.

В експеримент, използващ пет базови модела на LLM и две задачи за математическо мислене, те установили, че LeMa последователно подобрява резултатите в сравнение с обикновената фина настройка на данните от графиките на концептуалните задачи.

Специализираните LLM модели, които са разработени за задачите за математическо мислене, постигат висока точност при решаването на задачи. WizardMath и MetaMath показаха точност от 85,4% при задачите GSM8K и 27,1% при задачите MATH. Тези резултати превъзхождат настоящите най-съвременни модели с отворен код. GSM8K и MATH са специализирани набори от задачи, върху които се тестват моделите с изкуствен интелект.

Изследванията на екипа, включително кодът, данните и моделите, вече са публично достъпни в GitHub.

Появата на LeMa показва, че процесите на машинно обучение могат да бъдат направени по-близки до човешкото обучение. Това развитие може да доведе до революция в секторите, зависещи от изкуствения интелект, където коригирането на грешките и непрекъснатото учене са от решаващо значение. Например в здравеопазването, финансите и автономните превозни средства.