浮点数定点化表示

https://blog.csdn.net/augus_per/article/details/52724792

例:12.918进行定点化,11位的位宽带来的量化误差是多少?

  4位用来表示整数,7位用来表示小数。分辨率为:1/(2^7)=0.0078125

  0.918/0.0078125~=118

  118*0.0078125=0.921875

  量化误差:0.921875-0.918=0.003875>0.5*分辨率,因此不能做到无损量化

  如果用12位表示,则8位表示。分辨率为:1/(2^8)=0.00390625

  0.918/0.00390625=235.008

  235*0.00390625=0.91796875

  量化误差:|0.91796875-0.918|=0.00003125<0.5*分辨率

  对12.918进行无损量化,要保留小数点后四位,就是比0.001多一位,同样,二进制的2^-8是0.00390625,它是0.008的1/2,也就是说在二进制中它能精确到0.008的后一位,也就是可以做到无损量化了。

原文地址:https://www.cnblogs.com/wt-seu/p/12482720.html