Предложен е нов метод за създаване на невронни мрежи от логически елементи

Невронните мрежи, програмирани директно в хардуера на компютрите, ще могат да разпознават изображенията по-бързо и с много по- малка консумация на енергия от невронните мрежи, на базата на които работят повечето съвременни модели на изкуствен интелект. Това разкриха на конференция във Ванкувър (Канада) специалисти от Станфорд. Те са разработили стратегия за създаване на бързи и рентабилни невронни мрежи от логически елементи.

Невронните мрежи се състоят от т.нар. перцептрони – силно опростени модели на невроните на човешкия мозък. Когато са много на брой, те имат големи възможности, но също така консумират огромни количества енергия. Освен това перцептроните са само софтуерна абстракция: работата на мрежа от перцептрони на един графичен процесор изисква преобразуване на тази мрежа на езика на хардуера, което отнема време и енергия. Ако мрежата се изгради директно от хардуерни компоненти, тези разходи могат да бъдат намалени. Ако невронните мрежи могат да бъдат вградени директно в микрочиповете на смартфоните и другите устройства, обемът на трафика между компютрите и сървърите ще бъде значително намален.

Феликс Питерсен представи своята стратегия на конференцията за машинно обучение NeurIPS. Той е разработил невронна мрежа, състояща се от логически елементи – основните елементи на изчислителната техника. Всеки гейт на свой ред се състои от само няколко транзистора. Подобна мрежа от логически елементи работи по-бързо и изисква стотици и хиляди пъти по-малко енергия.

Разбира се, подобна мрежа се справя много по-зле със задачите за маркиране на изображения, отколкото обикновените невронни мрежи. Въпреки това авторите на концепцията смятат, че този подход ще открие интересни възможности за машинното обучение, пише Technology Review.

Не всички участници в конференцията са съгласни с това заключение. Фариназ Кушанфар от Калифорнийския университет, Сан Диего, заяви, че не е сигурна в способността на този тип мрежи да изпълняват практически задачи. „Това е забавна идея, но не знам колко добре се мащабира“, каза тя. И добави, че подобна мрежа може да бъде обучена само чрез апроксимация, релаксационен метод, а апроксимациите могат да подведат.

Въпреки това Питърсън е оптимист и възнамерява да продължи да изследва възможностите на мрежите, изградени от логически елементи. Той възнамерява да създаде „базов хардуерен модел“: мощна, универсална мрежа за разпознаване на изображения, която може да бъде интегрирана в компютърните чипове в смартфоните и компютрите.

Това може да доведе до огромни енергийни облаги, казва Петерсен. Ако тези мрежи могат ефективно да възстановяват например снимките и видеоклиповете от материали с ниска разделителна способност, тогава ще е необходимо да се изпращат много по-малко данни между сървърите и личните устройства.