Новият алгоритъм SLIDE за обучение на ИИ е първият, който работи по-добре с CPU, отколкото с GPU

Специалистите от университета Райс в Хюстън, Калифорния, създадоха новия алгоритъм за машинно обучение SLIDE. Особеното на новия алгоритъм е, че той е по-ефективен при използването на централни процесори, а не на графични ускорители.

Обикновено за обучаването на невронните мрежи се използват специални ускорители с графични процесори, понеже тяхната архитектура е по-подходяща за алгоритмите за машинно обучение. Но тези специализирани ускорители са много по-скъпи от компютърните системи с централни процесори.Ето защо специалистите са създали по-икономичната алтернатива SLIDE – сублинеен механизъм за дълбоко машинно обучение (sub-linear deep learning engine). Той може да обучава невронните мрежи без използването на графично оборудване и работи по-добре на CPU, а не върху GPU.

Новият алгоритъм използва съвсем различен подход. При стандартната методика се използва умножение на матрици, което е по-подходящо за графичните процесори. SLIDE използва хеш таблици с оптимизация на процеса на обучение – използват се само невроните, които са необходими в конкретния момент на обучението.

Едновременно с това SLIDE повишава скоростта на машинното обучение. С помощта на 22-ядрен Intel Xeon за един час се върши същата работа, за която графичният ускорител има нужда от три и половина часа. Не се съобщава какъв процесор се използва, но учените споделиха, че използват софтуера Tensor Flow на Google.

Предстои оптимизация на новия алгоритъм, в който засега не се използват векторните инструкции на процесорите.