Chinaunix首页 | 论坛 | 博客
  • 博客访问: 82190
  • 博文数量: 21
  • 博客积分: 591
  • 博客等级: 中士
  • 技术积分: 165
  • 用 户 组: 普通用户
  • 注册时间: 2010-11-02 11:40
文章分类
文章存档

2011年(18)

2010年(3)

我的朋友

分类: C/C++

2011-06-25 22:38:19

  再平常不过的问题,再次记录一下。

  一般学校在教语言基础的时候会提到,浮点数的比较运算要注意,不要直接做比较。(嘛。。。我当时老师其实就没说过,非科班的问题?)下面详细分析原因:

  首先,要知道浮点数的二进制表示:
  根据国际标准IEEE 754,浮点数二进制用如下方式表示:
  1. V = (-1)^s × M × 2^E
      (1)(-1)^s表示符号位,当s=0,V为正数;当s=1,V为负数。
      (2)M表示有效数字,大于等于1,小于2。
      (3)2^E表示指数位。

  举例来说,十进制数5.0,写成二进制是101.0,相当于1.01 × 2^2。那么按照上面的格式,s = 0, M = 1.01, E = 2。
  IEEE 754规定,对于32位浮点数,最高的一位是符号位s,接着的8位是指数E,剩下的23位是有效数字M。
  64位浮点数,最高的一位是符号位s,接着的11位是指数E,剩下的52位是有效数字M。

  IEEE 754对有效数字M和指数E,还有一些特殊规定。
  有效数字M:前面说过,1≤M≤2,也就是说,M写成1.xxxx的形式,xxxx表示小数部分。IEEE 754规定,因为M的第一位一定是1,可以被舍去,所以机器内容M只保存后面的xxxx部分。比如,保存1.01时,只保存01,等到读取时再把第一位的1加上去。这样可以节省一位有效数字。
  指数E的规定:
  首先,E是一个无符号整数。这意味着,如果E为8位,它的取值范围为0~255。但是,科学计数法中的E是可以出现负数的,所以IEEE 754规定,E的真实值必须再减去一个中间数,对于8位的E,这个中间数是127。
  比如,2^10的E是10,所以保存32位浮点数时,必须保存成10 127=137,即10001001。
  然后,指数E还可以再分成3种情况:

  1. E不全为0或不全为1。这时,浮点数就采用上面的规则表示,即指数E的计算值减去127(或1023),得到真实值,再将有效数字M前加上第一位的1
  2. E全为0。这时,浮点数的指数E等于1-127(或者1-1023),有效数字M不再加上第一位的1,而是还原为0.xxxxxx的小数。这样做是为了表示±0,以及接近于0的很小的数字。
  3. E全为1。这时,如果有效数字M全为0,表示±无穷大(正负取决于符号位s);如果有效数字M不全为0,表示这个数不是一个数(NaN)。

  那么为什么会有精度问题呢?
  首先,尝试将0.456这个浮点数,转用2进制表示。类似于十进制,二进制小数0.1意为1× 2^-1为十进制0.5;0.01意为1× 2^-2为十进制0.25。(转换方法原理不做解释)
  计算步骤为:
  1. 1位,0.456小于位阶值0.5,故该位为0;
    2位,0.456大于位阶值0.25,该位为1,并将0.45减去0.25得0.206进下一位;
    3位,0.206大于位阶值0.125,该位为1,并将0.206减去0.125得0.081进下一位;
    4位,0.081大于0.0625,为1,并将0.081减去0.0625得0.0185进下一位;
    5位0.0185小于0.03125,为0……

  这时候我们可以看到,可能超过M的最大位数(32位浮点数为23)也不会除尽。那么也就是说,机器中无法精确的保存0.456这个浮点数,其保存的值是接近0.456的一个数。

  其次,float类型的浮点数,有效数字位数有限(一般是十进制7位),在进行浮点运算的时候,这个精度往往会导致运算的结果和实际期望的结果之间有误差。   float的有效数字是23bit,对应7~8位十进制数,所以有效数字有的编译器是7位,也有的是8位。所以超过有效数字长度的部分计算机就不知道了,比如:
  1. float f = 1.23456789 * 10^8;//这里写法代表科学计数法,只是个意思,可能编译器不认识
    float m = f + 20;  
    //这样计算机会认为f和m是相等的

  综上,我们了解到对浮点数进行比较运算会很不靠谱,要尽量避免浮点数的比较操作。一定要比较可以用如下:
  1. fabs(A-B) < epsilon,epsilon为绝对误差
    或者
    fabs((A-B)/A) < relError,relError为相对误差

这类误差分析的方式。但是,即使这样仍然是不能保证结果的可靠或者可以接受。
阅读(1383) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~