再平常不过的问题,再次记录一下。
一般学校在教语言基础的时候会提到,浮点数的比较运算要注意,不要直接做比较。(嘛。。。我当时老师其实就没说过,非科班的问题?)下面详细分析原因:
根据国际标准IEEE 754,浮点数二进制用如下方式表示:
-
V = (-1)^s × M × 2^E (1)(-1)^s表示符号位,当s=0,V为正数;当s=1,V为负数。 (2)M表示有效数字,大于等于1,小于2。 (3)2^E表示指数位。
|
举例来说,十进制数5.0,写成二进制是101.0,相当于1.01 × 2^2。那么按照上面的格式,s = 0, M = 1.01, E = 2。
IEEE 754规定,对于32位浮点数,最高的一位是符号位s,接着的8位是指数E,剩下的23位是有效数字M。
64位浮点数,最高的一位是符号位s,接着的11位是指数E,剩下的52位是有效数字M。
IEEE 754对有效数字M和指数E,还有一些特殊规定。
有效数字M:前面说过,1≤M≤2,也就是说,M写成1.xxxx的形式,xxxx表示小数部分。IEEE 754规定,因为M的第一位一定是1,可以被舍去,所以机器内容M只保存后面的xxxx部分。比如,保存1.01时,只保存01,等到读取时再把第一位的1加上去。这样可以节省一位有效数字。
指数E的规定:
首先,E是一个无符号整数。这意味着,如果E为8位,它的取值范围为0~255。但是,科学计数法中的E是可以出现负数的,所以IEEE 754规定,E的真实值必须再减去一个中间数,对于8位的E,这个中间数是127。
比如,2^10的E是10,所以保存32位浮点数时,必须保存成10 127=137,即10001001。
然后,指数E还可以再分成3种情况:
- E不全为0或不全为1。这时,浮点数就采用上面的规则表示,即指数E的计算值减去127(或1023),得到真实值,再将有效数字M前加上第一位的1。
- E全为0。这时,浮点数的指数E等于1-127(或者1-1023),有效数字M不再加上第一位的1,而是还原为0.xxxxxx的小数。这样做是为了表示±0,以及接近于0的很小的数字。
- E全为1。这时,如果有效数字M全为0,表示±无穷大(正负取决于符号位s);如果有效数字M不全为0,表示这个数不是一个数(NaN)。
那么为什么会有精度问题呢?
首先,尝试将0.456这个浮点数,转用2进制表示。类似于十进制,二进制小数0.1意为1× 2^-1为十进制0.5;0.01意为1× 2^-2为十进制0.25。(转换方法原理不做解释)
计算步骤为:
-
1位,0.456小于位阶值0.5,故该位为0; 2位,0.456大于位阶值0.25,该位为1,并将0.45减去0.25得0.206进下一位; 3位,0.206大于位阶值0.125,该位为1,并将0.206减去0.125得0.081进下一位; 4位,0.081大于0.0625,为1,并将0.081减去0.0625得0.0185进下一位; 5位0.0185小于0.03125,为0……
|
这时候我们可以看到,可能超过M的最大位数(32位浮点数为23)也不会除尽。那么也就是说,机器中无法精确的保存0.456这个浮点数,其保存的值是接近0.456的一个数。
其次,float类型的浮点数,有效数字位数有限(一般是十进制7位),在进行浮点运算的时候,这个精度往往会导致运算的结果和实际期望的结果之间有误差。 float的有效数字是23bit,对应7~8位十进制数,所以有效数字有的编译器是7位,也有的是8位。所以超过有效数字长度的部分计算机就不知道了,比如:
-
float f = 1.23456789 * 10^8;//这里写法代表科学计数法,只是个意思,可能编译器不认识 float m = f + 20; //这样计算机会认为f和m是相等的
|
综上,我们了解到对浮点数进行比较运算会很不靠谱,要尽量避免浮点数的比较操作。一定要比较可以用如下:
-
fabs(A-B) < epsilon,epsilon为绝对误差 或者 fabs((A-B)/A) < relError,relError为相对误差
|
这类误差分析的方式。但是,即使这样仍然是不能保证结果的可靠或者可以接受。
阅读(1383) | 评论(0) | 转发(0) |