Chinaunix首页 | 论坛 | 博客
  • 博客访问: 736538
  • 博文数量: 28
  • 博客积分: 10081
  • 博客等级: 上将
  • 技术积分: 2585
  • 用 户 组: 普通用户
  • 注册时间: 2006-03-18 08:33
文章分类

全部博文(28)

文章存档

2010年(1)

2009年(1)

2008年(26)

分类: LINUX

2008-08-21 00:11:52

C语言中的浮点数的精度取决于尾数部分。尾数部分的位数越多,能够表示的有效数字越多。
单精度数的尾数用23位存储,加上默认的小数点前的1位1,2^(23+1) = 16777216。因为 10^7 < 16777216 < 10^8,所以说单精度浮点数的有效位数是7位。
双精度的尾数用52位存储,2^(52+1) = 9007199254740992,10^16 < 9007199254740992 < 10^17,所以双精度的有效位数是16位
阅读(2562) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~