浮点数的内存结构

根据IEEE的标准，浮点数的定义如下
              符号位    指数位        小数部分       指数偏移量
单精度浮点数 1 位[31] 8位 [30-23]   23位 [22-00]   127
双精度浮点数 1 位[63] 11 位[62-52] 52 位[51-00]   1023
我们以单精度浮点数来说明：
符号位，表述浮点数的正或者负
指数实际也有正负的，但是没有单独的符号位，而是采用了一个偏移来表示
在计算机的世界里，进位都是二进制的，指数表示的也是2的N次幂
这个数据格式当中的，指数是8位，可表达的范围是0到255
而对应的实际的指数是－127到＋128
这里特殊说明，－127和＋128这两个数据在IEEE当中是保留的用作多种用途的
－127表示的数字是0
128和其他位数组合表示多种意义，最典型的就是NAN状态

小数部分，并不是一个浮点数的实际的小数
实际的小数在这个小数前面还保留了一个1
拿浮点数1.0来说
符号位是0， 实际指数是0，对应这里的指数就是127了，也就是0x7f
而小数部分就是1.0了， 1是暗含的不存储，实际的小数部分就是0了
因此组合起来的数据就是，0x3f80000

可以用一个类来表示：
class FloatType
{
public:
      union {
          DWORD m_dwInt;
         float           m_fFloat;
        struct   {
           bool m_bSign : 1;
           int     m_nExp : 8;
           int     m_nFra: 23;
       }
}

本文引用通告地址： http://blog.csdn.net/happy__888/services/trackbacks/277587.aspx

=============================================================
浮点数的比较
在数学运算当中经常会涉及到判断两个数是否相等的情况
对于整数很好处理 A==B这样的一个语句就可以解决全部的问题
但是对于浮点数是不同的

首先，浮点数在计算机当中的二进制表达方式就决定了大多数浮点数都是无法精确的表达的
现在的计算机大部分都是数字计算机，不是模拟机，数字机的离散化的数据表示方法自然无法精确表达大部分的数据量的。

其次计算机浮点数的精度在单精度float类型下，只有7位，在进行浮点运算的时候，这个精度往往会导致运算的结果和实际期望的结果之间有误差

因为前两个原因，我们很难用 A==B来判定两个浮点数是否相同

很自然，我们可以想到   fabs(A-B) < epsilon 这样的一种判别方法
但是这种判别方法稳妥吗？
它也不稳妥。

首先， epsilon是一个绝对的数据，也就是误差分析当中说说的绝对误差
使用一个固定的数值，对于float类型可以表达的整个数域来说是不可以的
比如epsilon取值为0.0001，而a和b的数值大小也是0.0001附近的，那么显然不合适
另外对于a和b大小是10000这样的数据的时候，它也不合适，因为10000和10001也可以认为是相等的呢
适合它的情况只是a或者b在1或者0附近的时候

既然绝对误差不可以，那么自然的我们就会想到了相对误差
bool IsEqual(float a, float b, float relError ) {
        return ( fabs ( (a-b)/a ) < relError ) ? true : false;
}
这样写还不完善，因为是拿固定的第一个参数做比较的，那么在调用
IsEqual(a, b, relError ) 和 IsEqual(b, a, relError ) 的时候，可能得到不同的结果
同时如果第一个参数是0的话，就有可能是除0溢出
这个可以改造
把除数选取为a和b当中绝对数值较大的即可
bool IsEqual(float a, float b, relError )
{
       if (fabs(a) relError ) ? true : false;
       return   (fabs( (a-b)/b) > relError ) ? true : false;
};

使用相对误差就很完善吗？
也不是， 在某些特殊情况下， 相对误差也不能代表全部
比如在判断空间三点是否共线的时候，使用判断点到另外两个点形成的线段的距离的方法的时候
只用相对误差是不够的，应为线段距离可能很段，也可能很长，点到线段的距离，以及线段的长度做综合比较的时候，需要相对误差和绝对误差结合的方式才可以
相对完整的比较算法应该如下：
bool IsEqual(float a, float b, float absError, float relError )
{
          if (a==b) return true;
         if (fabs(a-b)         if (fabs(a>b) return   (fabs((a-b)/a>relError ) ? true : false;
        return   (fabs((a-b)/b>relError ) ? true : false;
}
这样才相对完整

这仅仅是浮点数之间最初级的比较方法
高级的方法看 浮点数比较（二） 这个文章 —— 如何把两个浮点数之间的比较转化成为两个整数之间的比较。

本文引用通告地址： http://blog.csdn.net/happy__888/services/trackbacks/280627.aspx

===============================================

浮点数的比较（二）
在写了上篇 浮点数的比较 以及 浮点数内存结构 两篇文章后
对于浮点数的比较有新的想法

我们先看正数的情况
根据IEEE的内存结构， 指数在高位，尾数在低位
浮点数大的对应的把其内存结构按照整数来理解进行比较的时候，情况也是成立的
因此在这里如果把他们进行比较的话，作为整数运算效率会非常的高，比如
float f1 = 1.23;
float f2 = 1.24
f1 > f2 成立
(int&)f1 > (int&)f2 也是成立的

而且，仔细研究IEEE的浮点结构，可以发现在《浮点数比较》当中提到的浮点数精度的问题——不是所有的浮点数都可以精确的表达
可以精确表达的浮点数实际上是有限的，就是那些IEEE的各种情况的枚举了 2^32个。不能表达的占据了大多数

IEEE在32位的情况下，尾数是23位的（暗含了第一个位数是1）
对于可以精确表达的浮点数来说，如果我们把这23位当作整数来理解， 它加1，就意味着可以找到比当前对应浮点数大的最小的浮点数了
反之，我们把两个浮点数，对应的整数做差值运算，得到的整数表明的是两个浮点数之间有多少个实际可以表达的浮点数（对应的指数相同的情况下很好理解；指数不同的时候，也是同样有效的）

这样，对于两个正的浮点数，他们的大小比较就可以用 (int&)f1 - (int&)f2 来进行比较了
差值的结果实际上就应该是相对误差了
这个相对误差，不等同于普遍意义上的相对误差
它所表达的是，两个浮点数之间可能还有多少个可以精确表达的浮点数
这样通过指定这个阈值来控制两个浮点数的比较就更有效了
对于两个正的浮点数
bool IsEqual(float f1, float f2, int absDelta)
{
      if ( abs ( (int&)f1 - (int&)f2 ) < absDelta ) return true;
}
这里用abs而不是fabs这在asm上面的运算差距也是很大的了

对于两个负数进行比较的情况也是相同的
只不过负数内存对应的整数加1，相应的找到的是更小的负数而已

但是负数和整数之间现在还不能进行直接的比较，因为根据IEEE的内存结构
正数和负数是不同的，对应的整数不能连续
正的最小的数就是0了，对应的整数也是0x00000000
负的最小的数就是－0，对应的整数则是0x 80000000
不用奇怪－0
在IEEE的表达当中是有两个0的，一个是 +0   一个是-0

有趣的是，按照 f1 == f2 的判断   +0和-0是相等的

通过对比我们可以发现，
+0 和正的浮点数可以按照转换成为整数的方式直接进行比较
-0 和负的浮点数可以按照转换成为整数的方式直接进行比较

如果我们能够把他们连接起来，整个整数方式的直接比较就完备了
对比一下负数的结构， 可以找到一个简单的办法了：
         把负数内存对应的整数减去 -0 ，他们就连续了
而且更好的结果是，所有的负数经过这次减法后，对应的整数也都是负数了
这样整个整数比较就变得连续了，而且在整个浮点数范围内都是有效的了

最后的比较算法就是：
//   函数:    bool IsEqual(float f1, float f2, int absDelta)
//   功能：把比较两个浮点数是否近似相同
//   输入：f1, f2参与比较的两个浮点数
//                absDelta 两个浮点数之间允许有多少个其他可以精确表达的浮点数存在，相当于相对误差
//   输出:    true，两个浮点数进行相等； false 两个浮点数不等
//   注意：仅仅适合IEEE 32位浮点数结构
bool IsEqual(float f1, float f2, int absDelta)
{
        int i1, i2;
        i1 = ( f1>0)   ? ((int&)f1)   : ( (int&) f1 - 0x80000000 );
        i2 = (f2>0)   ? ((int&)f2)   : ( (int&) f2 - 0x80000000 );
        return    ((abs(i1-i2))}

本文引用通告地址： http://blog.csdn.net/happy__888/services/trackbacks/289373.aspx

所有的C/C++编译器都是按照IEEE（国际电子电器工程师协会）制定的IEEE 浮点数表示法来进行运算的。这种结构是一种科学表示法，用符号（正或负）、指数和尾数来表示，底数被确定为2，也就是说是把一个浮点数表示为尾数乘以2的指数次方再加上符号。下面来看一下具体的规格:

	符号位	指数位	小数部分	指数偏移量
单精度浮点数	1 位[31]	8位 [30-23]	23位 [22-00]	127
双精度浮点数	1 位[63]	11 位[62-52]	52 位[51-00]	1023

我们以单精度浮点数来说明：
指数是8位，可表达的范围是0到255
而对应的实际的指数是－127到＋128
这里特殊说明，－127和＋128这两个数据在IEEE当中是保留的用作多种用途的
－127表示的数字是0
128和其他位数组合表示多种意义，最典型的就是NAN状态

从存储结构和算法上来讲，double和float是一样的，不一样的地方仅仅是float是32位的，double是64位的，所以double能存储更高的精度

任何数据在内存中都是以二进制（1或着0）顺序存储的，每一个1或着0被称为1位，而在x86CPU上一个字节是8位。比如一个16位（2字节）的short int型变量的值是1156，那么它的二进制表达就是：00000100 10000100。由于Intel CPU的架构是Little Endian（请参数机算机原理相关知识），所以它是按字节倒序存储的，那么就因该是这样：10000100 00000100，这就是定点数1156在内存中的结构.

我们先不考虑逆序存储的问题，先按照顺序的来讲，最后再把他们翻过来就行了。

现在让我们按照IEEE浮点数表示法，一步步的将float型浮点数12345.0f转换为十六进制代码。在处理这种不带小数的浮点数时，直接将整数部转化为二进制表示：1 11100010 01000000也可以这样表示：11110001001000000.0然后将小数点向左移，一直移到离最高位只有1位，就是最高位的1：1.11100010010000000一共移动了16位，在布耳运算中小数点每向左移一位就等于在以2为底的科学计算法表示中指数+1，所以原数就等于这样：1.11100010010000000 * ( 2 ^ 16 )好了，现在我们要的尾数和指数都出来了。显而易见，最高位永远是1，因为你不可能把买了16个鸡蛋说成是买了0016个鸡蛋吧？（呵呵，可别拿你买的臭鸡蛋甩我~），所以这个1我们还有必要保留他吗？（众：没有！）好的，我们删掉他。这样尾数的二进制就变成了：11100010010000000最后在尾数的后面补0，一直到补够23位：11100010010000000000000（MD，这些个0差点没把我数的背过气去~）

再回来看指数，一共8位，可以表示范围是0 - 255的无符号整数，也可以表示-128 - 127的有符号整数。但因为指数是可以为负的，所以为了统一把十进制的整数化为二进制时，都先加上127，在这里，我们的16加上127后就变成了143，二进制表示为：10001111
12345.0f这个数是正的，所以符号位是0，那么我们按照前面讲的格式把它拼起来：
0 10001111 11100010010000000000000
01000111 11110001 00100000 00000000
再转化为16进制为：47 F1 20 00，最后把它翻过来，就成了：00 20 F1 47。

有了上面的基础后，下面我再举一个带小数的例子来看一下为什么会出现精度问题。
按照IEEE浮点数表示法，将float型浮点数123.456f转换为十六进制代码。对于这种带小数的就需要把整数部和小数部分开处理。整数部直接化二进制：100100011。小数部的处理比较麻烦一些，也不太好讲，可能反着讲效果好一点，比如有一个十进制纯小数0.57826，那么5是十分位，位阶是1/10；7是百分位，位阶是1/100；8是千分位，位阶是1/1000……，这些位阶分母的关系是10^1、10^2、10^3……，现假设每一位的序列是{S1、S2、S3、……、Sn}，在这里就是5、7、8、2、6，而这个纯小数就可以这样表示：n = S1 * ( 1 / ( 10 ^ 1 ) ) + S2 * ( 1 / ( 10 ^ 2 ) ) + S3 * ( 1 / ( 10 ^ 3 ) ) + …… + Sn * ( 1 / ( 10 ^ n ) )。把这个公式推广到b进制纯小数中就是这样：
n = S1 * ( 1 / ( b ^ 1 ) ) + S2 * ( 1 / ( b ^ 2 ) ) + S3 * ( 1 / ( b ^ 3 ) ) + …… + Sn * ( 1 / ( b ^ n ) )

天哪，可恶的数学，我怎么快成了数学老师了！没办法，为了广大编程爱好者的切身利益，喝口水继续！现在一个二进制纯小数比如0.100101011就应该比较好理解了，这个数的位阶序列就因该是1/(2^1)、1/(2^2)、1/(2^3)、1/(2^4)，即0.5、0.25、0.125、0.0625……。乘以S序列中的1或着0算出每一项再相加就可以得出原数了。现在你的基础知识因该足够了，再回过头来看0.45这个十进制纯小数，化为该如何表示呢？现在你动手算一下，最好不要先看到答案，这样对你理解有好处。

我想你已经迫不及待的想要看答案了，因为你发现这跟本算不出来！来看一下步骤：1 / 2 ^1位（为了方便，下面仅用2的指数来表示位），0.456小于位阶值0.5故为0；2位，0.456大于位阶值0.25，该位为1，并将0.45减去0.25得0.206进下一位；3位，0.206大于位阶值0.125，该位为1，并将0.206减去0.125得0.081进下一位；4位，0.081大于0.0625，为1，并将0.081减去0.0625得0.0185进下一位；5位0.0185小于0.03125，为0……问题出来了，即使超过尾数的最大长度23位也除不尽！这就是著名的浮点数精度问题了（浮点十进制值通常没有完全相同的二进制表示形式。这是 CPU 所采用的浮点数据表示形式的副作用。为此，可能会经历一些精度丢失，并且一些浮点运算可能会产生意外的结果。）。不过我在这里不是要给大家讲《数值计算》，用各种方法来提高计算精度，因为那太庞杂了，恐怕我讲上一年也理不清个头绪啊。我在这里就仅把浮点数表示法讲清楚便达到目的了。

OK，我们继续。嗯，刚说哪了？哦对对，那个数还没转完呢，反正最后一直求也求不尽，加上前面的整数部算够24位就行了：1111011.01110100101111001。某BC问：“不是23位吗？”我：“倒，不是说过了要把第一个1去掉吗？当然要加一位喽！”现在开始向左移小数点，大家和我一起移，众：“1、2、3……”好了，一共移了6位，6加上127得131（怎么跟教小学生似的？呵呵~），二进制表示为：10000101，符号位为……再……不说了，越说越啰嗦，大家自己看吧：
0   10000101   11101101110100101111001
42   F6   E9   79
79   E9   F6   42

下面再来讲如何将纯小数转化为十六进制。对于纯小数，比如0.0456，我们需要把他规格化，变为1.xxxx * （2 ^ n ）的型式，要求得纯小数X对应的n可用下面的公式：
n = int( 1 + log (2)X );

0.0456我们可以表示为1.4592乘以以2为底的-5次方的幂，即1.4592 * ( 2 ^ -5 )。转化为这样形式后，再按照上面第二个例子里的流程处理：
1. 01110101100011100010001
去掉第一个1
01110101100011100010001
-5 + 127 = 122
0   01111010   01110101100011100010001
最后：
11 C7 3A 3D

另外不得不提到的一点是0.0f对应的十六进制是00 00 00 00，记住就可以了。