Физици създадоха „периодична таблица“ за AI: Край на хаоса в алгоритмите

Изследователи от университета Емори (САЩ) разработиха единен математически подход, който систематизира създаването на алгоритми за изкуствен интелект. Новият фреймуърк, представен в The Journal of Machine Learning Research, организира методите за машинно обучение по начин, подобен на този, по който периодичната таблица систематизира химичните елементи. Тя ще замени емпиричния избор на алгоритмите с точни физически изчисления.

Основният проблем на съвременния AI е липсата на фундаментално разбиране на причините, поради които определени модели са ефективни. Разработчиците на мултимодални системи (работещи с текст, видео и звук) са принудени да преминат през стотици варианти на „функции на загубите“ (loss functions), за да намерят работещ вариант по метода на пробите и грешките.

Физици, ръководени от професор Иля Неменман, са предложили решение – фреймуъркът „Вариационно многомерно информационно гърло“ (Variational Multidimensional Information Bottle Neck). Методът се основава на теорията на информацията: успешният изкуствен интелект трябва да работи като филтър, който отхвърля целия информационен шум и запазва само данните, които са критични за прогнозиране.

Авторите доказват, че повечето успешни съвременни алгоритми, въпреки външните различия, математически се свеждат до този принцип. Новият подход позволява да бъдат класифицирани в зависимост от параметрите на компресиране на информацията, като се създава структурирана таблица на методите.

Въвеждането на тази система премества разработването на AI от сферата на интуицията в сферата на точната наука. Инженерите ще могат да изчисляват предварително оптималната архитектура за конкретна задача, което елиминира месеците на обучение на неподходящи модели. Освен това системата позволява да се създават ефективни алгоритми дори в условия на недостиг на данни за обучение.

Отделно предимство ще бъде екологичността: отказът от ненужни изчисления ще намали натоварването на центровете за данни и съответно – въглеродния отпечатък на индустрията. Според авторите новият метод не само оптимизира кода, но и ни доближава до разбирането на работата на човешкия мозък, който обработва сензорна информация по подобни принципи на филтриране.