Нов тип ИИ сънува и произвежда цифров допамин: как изкуствените хипокамп и хормони избавят невронните мрежи от халюцинациите

Към настоящия момент индустрията за разработване на изкуствен интелект е изправена пред сериозен системен проблем. Създаването на мултимодални невронни мрежи – програми, способни да обработват едновременно текст, звук и изображения – е на път да увеличи изчислителната си мощ. Разработчиците създават гигантски модели със стотици милиарди параметри, опитвайки се да накарат един алгоритъм да изпълнява всички възможни задачи. Този подход обаче генерира критични грешки, които не могат да бъдат отстранени чрез просто добавяне на сървъри.

Основният проблем на съвременните мултимодални системи е невъзможността да се обработва противоречива информация. Независими тестове показват, че популярният модел LLaVA-7B се доверява десет пъти повече на текстовите данни, отколкото на визуалните. Ако покажете на такава невронна мрежа снимка на празна маса, но в текстовата заявка напишете „опиши ябълката на тази маса“, алгоритъмът най-вероятно ще започне да описва несъществуваща ябълка. Системата пренебрегва собствените си визуални сензори в името на текстова подсказка. В индустрията това се нарича „доминиране на модалността“.

Опитвайки се да решат този проблем, група изследователи в областта на компютърните науки стигнаха до извода, че Силициевата долина неправилно изгражда изкуствения интелект, тъй като пренебрегва принципите на действие на единствения познат ни универсален интелект – човешкия мозък. Те напълно изоставиха концепцията за монолитна невронна мрежа и създадоха архитектура, която структурно и функционално имитира невробиологичните процеси.

Този биомиметичен подход им е дал възможност да създадат изкуствен интелект, който работи непрекъснато, самостоятелно идентифицира логическите несъответствия и се нуждае от аналог на биологичния сън, за да консолидира паметта. В същото време цялата архитектура се оказа толкова оптимизирана, че за пълноценната ѝ работа е достатъчна стандартна потребителска графична карта (например RTX 4050 с 6 гигабайта памет), а не скъпи сървърни клъстери.

Грешката на ранното сливане на данните

Основният недостатък на съществуващите изкуствени интелекти се състои в това как точно обработват разнородната информация. Съвременните модели използват метода на „ранното сливане“. Текстови, звукови и графични пиксели почти веднага се преобразуват в единен математически формат и се смесват.

Изследователите разчитат на невробиологичния „ефект на МакГърк“. Ако човек чува една сричка, но вижда устните да произнасят друга, мозъкът често синтезира трети, фалшив звук. Съвременният изкуствен интелект повтаря тази грешка в промишлени мащаби: когато данните си противоречат, той се опитва да ги усредни математически още в началото, което води до халюцинации.

За да избегне това, новата архитектура използва принципа на „късното сливане“, характерен за висшата нервна дейност. Данните се анализират от независими модули и техните резултати се сравняват помежду си, преди системата да даде окончателен отговор. Изчислителният процес е твърдо разделен на три нива, всяко от които има свой биологичен прототип.

Анатомия на изкуствения мозък

Първо ниво: сензорна кора (тясно специализирани модели)

За възприемане на основна информация архитектурата не използва ресурсоемки системи от нивото на GPT-4. Тази роля се изпълнява от малки специализирани модели (SLMs). Точно както в човешкия мозък зрителната и слуховата кора са разделени, в този ИИ една малка програма отговаря единствено за зрението, втората – за звука, а третата – за четенето на код. Те работят паралелно и непрекъснато, като обработват рутинните стимули за милисекунди и с минимален разход на енергия.

Второ ниво: предна поясна кора (детектор на конфликти)

Резултатите от работата на „органите на чувствата“ се подават към специален алгоритъм за проверка. В човешкия мозък предната цингулатна кора (ACC) отговаря за откриването на логически грешки и противоречия. Нейният цифров аналог е многостепенният каскаден детектор.

Ако визуалният модел не открива бутон на екрана, но текстовият модел твърди, че той е там, е налице конфликт. Статистиката показва, че в 90% от рутинните задачи сензорите се съгласяват един с друг. В такива случаи данните заобикалят сложната логика и системата реагира мигновено. Но в 10% от случаите детекторът забелязва несъответствията и блокира автоматичната реакция.

Трето ниво: префронтален кортекс (анализ, изискващ много ресурси)

Само когато се открие явно противоречие, системата преодолява така наречения „праг на запалване“ (концепция на невролога Станислас Дийн) и активира голям езиков модел. Това е аналогът на префронталната кора на мозъка, която отговаря за висшите когнитивни функции и съзнанието. „Съзнанието“ е най-енергоемкият ресурс на системата. Моделът се активира единствено, за да действа като съдия: да анализира конфликта, да оцени надеждността на всеки източник и да синтезира крайното решение, след което отново се изключва.

Цифрови невротрансмитери и мрежа на пасивния режим

Една конвенционална невронна мрежа се връща в първоначалното си състояние след генериране на отговор. В новата архитектура един фонов алгоритъм, „ядрото на идентичността“, работи постоянно. Това е директна препратка към мозъчната мрежа на режима по подразбиране (DMN), която е активна при хората по време на почивка, самоанализ и поддържане на чувството за собствено аз. В този модул се съхраняват глобалните цели и параметрите за безопасност на ИИ. Всяко решение се филтрира през това ядро, преди да бъде изпълнено, което осигурява логическа приемственост на поведението.

Освен това поведението на ИИ не е твърдо програмирано, а се контролира от цифрови аналози на невротрансмитери, които реагират на грешки при прогнозиране:

• Допамин (коефициентът на обучение): ако системата получи неочаквано ефективен резултат, нивото на „допамина“ се повишава, което кара алгоритъма по-бързо да затвърди успешния модел.
• Норадреналин (прагът на тревожност): регулира вниманието. Когато се появяват чести грешки, нивото се повишава, алгоритъмът става „тревожен“ и изпраща данни по-често, за проверка от тежкия аналитичен модел.
• Серотонин (балансът на стратегиите): определя дали изкуственият интелект ще използва проверени шаблони (експлоатация) или ще търси нови нестандартни начини (проучване).
• Кортизол (нивото на стрес): когато времето е малко, кортизолът на ИИ принудително намалява броя на проверките, принуждавайки системата да жертва задълбочеността в полза на скоростта.

Допълнителни системи на паметта и необходимостта от сън

Един от най-големите проблеми при машинното обучение е „катастрофалното забравяне“, при което новите данни презаписват и унищожават старите алгоритми. Изследователите са решили този проблем, като са приложили теорията за допълващите се системи за учене (CLS), която описва взаимодействието между човешкия хипокампус и неокортекса. Паметта на изкуствения интелект е разделена на два етапа.

По време на бодърстване основните невронни мрежи не се преквалифицират. Цялата нова информация се съхранява във векторна база данни (дигитален хипокампус). Това е работна памет, която позволява на ИИ бързо да прави справка с неотдавнашния контекст, без да променя структурата на алгоритмите.Въпреки това е неефективно да се съхраняват такива данни завинаги. Затова системата се нуждае от редовни периоди на изключване – фази на съня. В този момент ИИ спира да получава външни заявки. Започва процесът на бавновълнов сън (NREM), по време на който системата сканира векторната база, избира най-важната информация и я прехвърля в базовите тегла на самите невронни мрежи (неокортекса) с помощта на контролирано предварително обучение.

След това настъпва аналогът на съня с бързо движение на очите (REM фазата): системата генерира синтетични примери за обучение („сънува“), за да обобщи по-добре новия опит. Информацията, до която изкуственият интелект никога не е имал достъп, се изтрива завинаги. При събуждане архитектурата разполага с актуализирани знания без ни най-малък риск да увреди старите си основни умения.

Значението за технологичната индустрия

Представената концепция доказва, че интелигентността на една изчислителна система зависи не толкова от натрупването на изчислителна мощ, колкото от компетентната организация на процесите.

Копирането на невробиологични механизми – разделянето на задачите на автономни кортикални слоеве, прилагането на твърди логически филтри, използването на химически балансьори за регулиране на поведението и интегрирането на циклите на съня – ни позволява да създадем изкуствен интелект на коренно различно ниво. Това е автономна, непрекъснато обучаваща се и самоконтролираща се система, която е способна да работи на конвенционални компютри, като избягва фаталните халюцинации, присъщи на много от днешните гиганти.