Google представи TurboQuant – революционен алгоритъм за многократно компресиране на паметта за AI приложения

Изследователи от Google Research обявиха нов алгоритъм за компресиране на паметта за изкуствен интелект, наречен TurboQuant. Технологията вече е кръстена „Pied Piper“ в чест на измисления стартъп от сериала „Силициевата долина“. Това сравнение не възниква от нищото. В култовия сериал на HBO, излъчван от 2014 до 2019 година компанията Pied Piper разработи революционен алгоритъм за компресиране на данни.

TurboQuant на Google се фокусира върху екстремно компресиране без загуба на качество, но се прилага към ключовото тясно място в системите за изкуствен интелект – работната памет.

Както описват технологията експертите от Google Research, това е нов начин за намаляване на „работната памет“ на AI (KV-кеш), без загуба на производителност. Методът използва векторна квантизация за премахване на тесните места в кеша, което според изследователите ще позволи на AI да запомня повече информация, заемайки по-малко място и запазвайки точността.

Пълните резултати от работата ще бъдат представени на конференцията ICLR 2026 през април. В основата на TurboQuant стоят два метода: алгоритъмът за квантизация PolarQuant и методът за обучение и оптимизация QJL. Практическата полза от внедряването на технологията може да бъде значителна. Според Google, TurboQuant е в състояние да намали обема на необходимата работна памет за AI поне 6 пъти по време на „инференса“ — фазата на използване на вече обучен модел. Това би могло да направи използването на AI услуги значително по-евтино.

Някои представители на бранша, като например главният изпълнителен директор на Cloudflare Матю Принс вече сравняват този пробив с успеха на китайския модел DeepSeek, който постигна конкурентни резултати при значително по-ниски разходи за обучение.

Въпреки това е важно да се отбележи, че TurboQuant все още е лабораторна разработка и все още не е достъпен за широка употреба. Освен това алгоритъмът решава проблема с паметта само на етапа на използване на AI моделите, но не и на етапа на тяхното обучение, който все още изисква огромни обеми оперативна памет.

През тази година надпреварата за ефективност на AI достига ново ниво. Ако TurboQuant оправдае очакванията в реални условия, това може да се превърне в сериозна крачка към демократизацията на мощните AI модели, като направи тяхното използване по-достъпно. Въпреки това, както и в случая с „Pied Piper“ от сериала „Силициевата долина“, пътят от лабораторния пробив до повсеместното внедряване често се оказва осеян с неочаквани трудности.