AMD ще вгражда поддръжката на BFloat16 формата в своите графични архитектури

В бъдещата графична архитектура на AMD се очаква да бъде реализирана възможност за обработката на данни с BFloat16 числа с плаваща запетая. Откритието направиха потребителите на социалната мрежа Reddit, изследвайки обновените библиотеки AMD ROCm в раздела на GitHub за IT проекти.

BFloat16 е формат за числа с плаваща запетая, който използва 16 бита в паметта на компютъра. В сравнение с 16-битовия FP16, той има съвсем различна структура и редица достойнства. BFloat16 форматът може да бъде описан с помощта на формулата [1: 8: 7], която показва, че първият бит се използва за знака на числото, следващите 8 бита са за експонентата и 7 бита за мантисата плюс още един неявен бит за мантисата. От своя страна структурата на FP16 изглежда като [1: 5: 10] и предлага по-малко битове за експонентата (5 срещу 8).

По този начин Bfloat16 има много по-голям динамичен диапазон в сравнение с FP16. Този диапазон е особено полезен за градиентите, които могат да бъдат извън динамичния диапазон на FP16 или за точното представяне на целите числа, благодарение на int8 кодирането във Bfloat16, при което няма загуба на точност.

Поддръжката на Bfloat16 ще е полезна най-вече за учените и изследователите използващи графичните ускорители в своите задачи, понеже този формат широко се използва в изчисленията на алгоритмите с елементи на изкуствен интелект и машинно обучение.