Една съвсем нова технология на Google помага на изкуствения интелект да се учи, без да губи информация

Изследователи от Google представиха нов подход към машинното обучение – „вложено обучение“, което позволява на моделите да усвояват новите задачи, без да губят придобитите по-рано умения. Този метод е предназначен за преодоляване на така нареченото „катастрофално забравяне“, когато добавянето на нови данни води до загуба на по-рано научената информация.

Големите езикови модели, въпреки бързия напредък, продължават да се сблъскват с предизвикателствата на непрекъснатото обучение. За разлика от човешкия мозък, който е способен на невропластичност и запазва старите знания, докато усвоява нови, съществуващите AI модели са ограничени от контекстуалния входен прозорец за въвеждане на информацията или от статистическата информация от предишно обучение.

Опитите просто да се актуализират параметрите на модела с нови данни често водят до „катастрофално забравяне“, при което се губят уменията, придобити при предишни задачи. Преди това изследователите са се опитвали да се справят с това чрез промени в архитектурата и подобрени алгоритми за обучение. Архитектурата на модела и алгоритмите за оптимизация (правилата за учене) се разглеждаха като отделни елементи. Това възпрепятстваше създаването на наистина единна и ефективна система за обучение.

Вложеното обучение представя даден AI модел като набор от взаимосвързани оптимизационни проблеми. В този случай архитектурата на модела и неговият алгоритъм за обучение се представят като различни нива на един и същ процес. Всяко от тях има свой собствен контекстуален поток и се актуализира със собствена честота.

Това е подобно на асоциативната памет: моделът се научава да свързва новите данни с вече известни данни, като същевременно запазва старите знания. Ключови компоненти, като например механизмът за внимание в трансформърите, помагат да се намерят връзките между частите информация. В резултат на това моделът се адаптира към новите задачи, без да забравя какво вече е научил.

За да тестват концепцията, изследователите създават архитектурата Hope. За разлика от своите предшественици, които имат само две нива на актуализация на параметрите, Hope използва неограничени нива на контекстуално обучение. Нейната памет е изградена на принципа на системите с непрекъсната памет: не два фиксирани блока, „краткосрочни“ и „дългосрочни“, а спектър от слоеве, всеки от които се актуализира със собствена скорост. Архитектурата самостоятелно оптимизира знанията си и се мащабира за по-големи контекстни прозорци.

Експериментите показват, че Hope се справя с дългите последователности от информация по-точно и стабилно от съществуващите модели. Тя е в състояние да решава задачи Needle-In-Haystack с различна сложност, при които трябва да се намери малък детайл в голям обем текст, и превъзхожда най-съвременните архитектури, включително Titans, Samba и стандартните трансформъри.

Изследователите смятат, че новата техника ще помогне да се доближат възможностите на изкуствения интелект до гъвкавостта на човешкия мозък и ще послужи за основа на следващото поколение самоусъвършенстващи се модели.