Google DeepMind използва голям езиков модел, за да реши неразрешим математически проблем

Google DeepMind използва голям езиков модел, за да разбие известен нерешен проблем в чистата математика. В публикация, публикувана днес в Nature, изследователите казват, че това е първият път, когато е използван голям езиков модел за откриване на решение на дългогодишен научен пъзел.

Става въпрос за произвеждане на проверима и ценна нова информация, която не е съществувала преди.

„Това не е в данните за обучението – дори не е било известно“, казва съавторът Пушмийт Кохли, вицепрезидент по изследванията в Google DeepMind.

Големите езикови модели имат репутация за измисляне на неща, а не за предоставяне на нови факти. Новият инструмент на Google DeepMind, наречен FunSearch, може да промени това. Това показва, че ИИ наистина може да прави открития, ако бъде убеден и ако изхвърлите по-голямата част от това, което си измисля.

FunSearch продължава поредица от открития в областта на фундаменталната математика и компютърните науки, които DeepMind направи с помощта на AI. Първият AlphaTensor намери начин да ускори изчисленията в основата на много различни видове код, като подобри 50-годишен рекорд. Тогава AlphaDev намери начини да накара ключовите алгоритми, използвани трилиони пъти на ден, да работят по-бързо.

И все пак тези инструменти не използват големи езикови модели.

Създадени върху AI AlphaZero на DeepMind, и двете решаваха математически проблеми, като ги третираха като пъзели в Go или шах. Проблемът е, че те са заседнали в лентите си, казва Бернардино Ромера-Паредес, изследовател в компанията, който е работил както върху AlphaTensor, така и върху FunSearch:

FunSearch има различен подход.

Той съчетава голям езиков модел, наречен Codey, версия на PaLM 2 на Google, която е фино настроена на компютърен код, с други системи, които отхвърлят неправилни или безсмислени отговори и включват добри обратно.

Изследователите започнаха, като скицираха проблема, който искаха да решат в Python, популярен език за програмиране. Но те пропуснаха редовете в програмата, които ще уточнят как да се реши. Това е мястото, където се намесва FunSearch. Той кара Коди да попълни празните места – всъщност да предложи код, който ще реши проблема.

След това втори алгоритъм проверява и оценява това, което Коди измисля.

Най-добрите предложения, дори ако все още не са правилни, се запазват и се връщат на Коди, който се опитва да завърши програмата отново.

След няколко милиона предложения и няколко десетки повторения на цялостния процес, FunSearch успя да излезе с код, който създаде правилно и неизвестно преди това решение на проблема с ограничен набор, което включва намиране на най-големия размер от определен тип набор.

Представете си, че чертаете точки върху милиметрова хартия. Проблемът с набора е като да се опитвате да разберете колко точки можете да поставите, без три от тях да образуват права линия.

Това е супер нишово, но важно.

Математиците дори не са съгласни как да го решат, камо ли какво е решението.

Терънс Тао от Калифорнийския университет в Лос Анджелис, който е спечелил много от най-добрите награди по математика, се изказа по темата. Тао е заинтригуван от това, което FunSearch може да направи.

Основно предимство, което FunSearch има пред AlphaTensor е, че на теория може да се използва за намиране на решения на широк кръг от проблеми. Това е така, защото произвежда код – рецепта за генериране на решението, а не самото решение. Различен код ще реши различни проблеми. Резултатите от FunSearch също са по-лесни за разбиране. Една рецепта често е по-ясна от странното математическо решение, което произвежда.

За да тестват неговата гъвкавост, изследователите са използвали FunSearch, за да подходят към друг труден проблем в математиката.

Проблемът с опаковането на кошчета, който включва опит за опаковане на артикули във възможно най-малко кошчета.

Това е важно за редица приложения в компютърните науки, от управление на центрове за данни до електронна търговия. FunSearch измисли начин да го реши, който е по-бърз от тези, създадени от хора.