Учените си изясниха как точно изкуственият интелект прогнозира структурата на протеините

Изследователи от Масачузетския технологичен институт са открили начин да „надникнат“ в езиковите модели, които прогнозират структурата и функциите на протеините, и да разберат как те вземат решенията си. За целта учените са приложили специален алгоритъм, който „разгръща“ работата на невронната мрежа, позволявайки им да видят точно какви свойства на протеините взема предвид всеки елемент от модела. Този пробив не само обяснява как работи изкуственият интелект, но и потенциално ще ускори търсенето на нови лекарства и ваксини.

Езиковите модели за прогнозиране на протеини се появиха през 2018 г. благодарение на работата на Бони Бергер и Тристан Беплер. Тези инструменти се основават на големи езикови модели (LLM), но анализират аминокиселинни последователности вместо думи. С тях учените могат да прогнозират структурата и функцията на протеините и да откриват потенциални мишени за ваксините. През 2021 г. Бергер и колегите му използват такъв модел, за да предскажат областите на вирусните повърхностни протеини, които е най-малко вероятно да мутират, така че вирусът да избегне имунния отговор. По този начин са идентифицирани възможни цели за ваксини срещу грип, ХИВ и SARS-CoV-2.

Тези модели обаче имат един проблем: невъзможно е да се разбере как точно правят прогнозите. Моделите дават резултати, но вътрешната работа на невронната мрежа остава непрозрачна и за учените е трудно да определят кои характеристики на протеините са най-важни за прогнозата. Големите езикови модели, като цяло, функционират като „черна кутия“ – проблем, който тревожи разработчици като Anthropic.

В новото изследване екипът на Масачузетския технологичен институт (MIT) проучва как езиковите модели формират своите прогнози за протеините. Моделите кодират информацията за даден протеин под формата на репрезентации – моделите на активиране на множество „възли“ на невронна мрежа. Всеки възел е елемент от мрежата, който реагира на конкретни характеристики на протеина, подобно на начина, по който невроните в мозъка съхраняват спомените за конкретни неща. Обикновено моделът на активиране е ограничен до малък брой възли, например 480, и всеки възел кодира няколко свойства на протеина едновременно, което прави интерпретацията почти невъзможна.

За да решат този проблем, учените са използвали рядък автоенкодер – алгоритъм, който преобразува плътното представяне на протеина в много по-разредено и подробно. Автоенкодерът разширява броя на възлите до десетки хиляди, например 20 000, създавайки пространство, в което отделните характеристики на протеина могат да се „разпространяват“ към отделните възли. Това означава, че една протеинова характеристика, която преди това е била кодирана от няколко възела, може да заеме един възел.

Както обяснява докторантът Онкар Гужрал, при разреденото представяне активациите на възлите стават „смислени“, за разлика от гъстото представяне, при което информацията е опакована толкова плътно, че е почти невъзможно да се разбере кой възел за какво отговаря.

След като създават разредените представяния, изследователите използват асистента за изкуствен интелект Claude, за да анализират възлите. Системата съпоставила възлите с известните характеристики на протеините, като например функция, семейство или локализация в клетката, и ги описала на прост език, като например „невронът може да отговаря за пренасянето на йоните през клетъчната мембрана“.

Този процес прави възлите много по-„интерпретируеми“, позволявайки на изследователите да разберат какви точно характеристики на даден протеин кодира всеки възел. По този начин е установено, че възлите най-често отразяват принадлежността към определено семейство протеини и специфични функции, включително различни метаболитни и биосинтетични процеси.

Сега учените ще могат да изберат най-подходящия модел за конкретната задача и да оптимизират входните данни, за да получат по-точни прогнози. Освен това този подход открива възможност за разкриване на неизвестни досега биологични модели. В дългосрочен план подобни методи ще позволят протеините да бъдат изучавани в по-голяма дълбочина от всякога само чрез анализ на вътрешните представяния на моделите. В резултат на това биологичните изследвания ще станат по-прозрачни и ефективни.