Chinaunix首页 | 论坛 | 博客
  • 博客访问: 115965
  • 博文数量: 13
  • 博客积分: 58
  • 博客等级: 民兵
  • 技术积分: 246
  • 用 户 组: 普通用户
  • 注册时间: 2009-12-25 21:34
个人简介

MySQL DBA Linux SA C/C++ Perl PHP Python Hadoop

文章分类

全部博文(13)

文章存档

2014年(8)

2013年(4)

2012年(1)

我的朋友

分类: Mysql/postgreSQL

2014-01-26 21:56:16

今天有同学反映,从idb查出来的数据,是以科学计数方式显示的,所以在此需要确认下是idb显示的问题,还是db存储的问题,如果是db存储的时候就是float类型(科学计数),那么可能存在数据不准确的问题,建议用int或者bigint的方式存储,在计算的时候再做相应的转化。如果,数据的范围能确认,那么使用DECIMAL(NUMERIC)也可以。

以下看下float,numeric类型的使用及需要注意的问题:
测试表:
Create Table: CREATE TABLE `test_float` (
  `id` int(11) NOT NULL DEFAULT '0',
  `col` float DEFAULT NULL,
  `col2` decimal(5,2) DEFAULT NULL,
  `col3` decimal(10,2) DEFAULT NULL,
  `col4` decimal(20,2) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=gbk

测试1:
插入非越界的数据,
-- float除去小数点加在一起最多6位;
-- decimal(m,n),除去小数点,加在一起最多m位,n代表小数点后的位数;

root@test 04:17:44>insert into test_float values(1,1234.56,123.45,12345678.90,1234567890123456.78);
Query OK, 1 row affected (0.00 sec)

root@test 04:19:01>select * from test_float;
+----+---------+--------+-------------+---------------------+
| id | col     | col2   | col3        | col4                |
+----+---------+--------+-------------+---------------------+
|  1 | 1234.56 | 123.45 | 12345678.90 | 1234567890123456.78 |
+----+---------+--------+-------------+---------------------+
1 row in set (0.00 sec)


测试2:
插入越界的数据:
-- float,插入超过6位的数据;
-- decimal(m,n),插入超过m位,和超过n位的数据;
root@test 04:30:57>insert into test_float values(2,123456.123456,123123.45,12345678.123456,1234567890123456.78);  
Query OK, 1 row affected, 2 warnings (0.00 sec)

root@test 04:31:11>show warnings;
+---------+------+-----------------------------------------------+
| Level   | Code | Message                                       |
+---------+------+-----------------------------------------------+
| Warning | 1264 | Out of range value for column 'col2' at row 1 |
| Note    | 1265 | Data truncated for column 'col3' at row 1     |
+---------+------+-----------------------------------------------+
2 rows in set (0.00 sec)

root@test 04:31:15>select * from test_float;
+----+---------+--------+-------------+---------------------+
| id | col     | col2   | col3        | col4                |
+----+---------+--------+-------------+---------------------+
|  1 | 1234.56 | 123.45 | 12345678.90 | 1234567890123456.78 |
|  2 |  123456 | 999.99 | 12345678.12 | 1234567890123456.78 |
+----+---------+--------+-------------+---------------------+
3 rows in set (0.00 sec)

结论:
1. float 默认只保存6位(除去小数点),如果超过6位,则四舍五入,所以float存储的数据是不精确的,只是近似值;
2. decimal,如果输入的数据超过了定义的最大值,那么则溢出,数据库里面存储的是定义的最大值,例如,decimal(5,2)输入123123.45,实际存储为999.99;
3. decimal,如果只是小数部分超过定义的长度,那么则截断(非四舍五入)指定长度,例如,decimal(10,2)输入12345678.123456,实际存储为12345678.12;
4. decimal,整数部分和小数部分是分开存储的,每9个数字占用4个字节,在mysql内部使用的二进制存储,基本没有长度的限制;

建议:
1. 尽量不用float类型;
2. 存钱之类的数据,使用int(bigint)来存,在计算的时候除以100;
3. 一定要存小数的话,decimal是不错的选择,但是需要考虑到数据的范围问题,以防越界产生的错误;





阅读(16860) | 评论(0) | 转发(1) |
给主人留下些什么吧!~~