zz decimal，float和double的区别

http://www.cnblogs.com/yellowapplemylove/archive/2011/08/23/2150316.html

一直很奇怪C#的预定义数据类型中为什么加了一个decimal，有float和double不就够了吗？今天来挖一挖。

浮点型

 

Name	CTS Type	De script ion	Significant Figures	Range (approximate)
float	System.Single	32-bit single-precision floating point	7	±1.5 × 10?45 to ±3.4 × 1038
double	System.Double	64-bit double-precision floating point	15/16	±5.0 × 10 ?324 to ±1.7 × 10308

 

如果我们在代码中写一个12.3，编译器会自动认为这个数是个double型。所以如果我们想指定12.3为float类型，那么你必须在数字后面加上F/f：

float f = 12.3F;

decimal类型

作为补充，decimal类型用来表示高精度的浮点数

 

Name	CTS Type	De script ion	Significant Figures	Range (approximate)
decimal	System.Decimal	128-bit high precision decimal notation	28	±1.0 × 10?28 to ±7.9 × 1028

 

从上表可以看出，decimal的有效位数很大，达到了28位，但是表示的数据范围却比float和double类型小。decimal类型并不是C#中的基础类型，所以使用的时候会对计算时的性能有影响。

我们可以像如下的方式定义一个decimal类型的浮点数：

decimal d = 12.30M;

对decimal、float、double错误的认识

 

在精确计算中使用浮点数是非常危险的，尽管C#在浮点数运算时采取了很多措施使得浮点数运算的结果看起来是非常正常的。但实际上如果不清楚浮点数的特性而贸然使用的话，将造成非常严重的隐患。  

   

  考虑下面的语句：  

   

              double   dd   =   10000000000000000000000d;  

              dd   +=   1;  

              Console.WriteLine   (   "{0:G50}",   dd   );   

    

  输出是什么？谁知道？  

  输出是：1000000000000000000000000   

    

  这就是浮点数精度损失的问题，最重要的是，在精度损失的时候，不会报告任何的错误，也不会有任何的异常产生。  

   

  浮点数的精度损失可能在很多地方出现，例如d   *   g   /   g   不一定等于d，d   /   g   *   g也不一定等于d。   

    

  还有两个非常危险的错误认识！！  

   

  1、decimal不是浮点型、decimal不存在精度损失。

  下面有段程序大家可以去看看结果是什么。记住！所有的浮点型变量都存在精度损失的问题，而decimal是一个不折不扣的浮点型，不论它精度有多高，精度损失依然存在！  

   

                  decimal   dd   =   10000000000000000000000000000m;  

                  dd   +=   0.1m;  

                  Console.WriteLine   (   "{0:G50}",   dd   );   

    

  2、decimal所能储存的数比double大，从double到decimal的类型转换不会出现任何问题。

  微软在decimal的帮助上真的要好好反省了。实际上只有从整形到decimal的转换才是扩大转换，decimal的精度比double大，但所能储存的最大数却比double要小。

 

 

 

“decimal   类型是适合财务和货币计算的   128   位数据类型。”

当然，decimal在大多数情况下是安全的，但浮点数在理论上是不安全的。

至于精度误差造成的显示问题，则是很容易修补的。浮点数会带来的问题以及整型能避免的问题就是一个：

譬如说从A帐户转账到B帐户，经计算得出结果是3.788888888888888元，那么我们从A帐户扣除这么多钱，B帐户增加这么多钱，但事实上A帐户不一定会扣除准确的数值，例如A帐户的金额在100000000000，那么这个时候100000000000   -   3.788888888888888运算结果很有可能是99999999996.211111111111112。而这个时候B帐户的金额为0则很有可能加上准确的数值，如3.788888888888888，这样一来，0.011111111111112元钱就会不见了，日积月累的，差额就会越来越大。

double是64位的，比single-32位精度高  

  decimal128位高精度浮点数，常用于金融运算，不会出现浮点数计算的误差

，decimal   类型具有更高的精度和更小的范围，这使它适合于财务和货币计算。

 

 

 

早上刚到办公室，就被中试室打来电话叫去，原来软件在测试过程中发现了个小问题：软件读出来的数据比设备LCD上显示数据小了 0.01 。

怎么会这样呢，数据类型我已经用了 double 型了整个数据长度也就6位，double型的数据有效数据位为7位，也够了阿，不明白。于是回来下断点跟踪。

前面double型在算的时候，是没问题的，数据是66.24，可是当我把66.24 乘上100后的处理结果就不对了：66.24*100.0d = 6623.9999…91，问题就出在这里了。查了msdn，Double型的数据：Double 值类型表示一个值介于 -1.79769313486232e308 和 +1.79769313486232e308 之间的双精度 64 位数字，浮点数只能近似于十进制数字，浮点数的精度决定了浮点数近似于十进制数字的精确程度。默认情况下，Double 值的精度是 15 个十进制位，但内部维护的最大精度是 17 位。所以就出现了乘上一百后，精度就不够了。又由于我们在处理数据时，是不允许四舍五入的，所以，经过单位转换后，软件中最终显示的数据为 66.23 ，比LCD上显示的66.24 小了 0.01。

因此，这之后就想到了应该用更高精度的 decimal 型。

 

类型	大致范围	精度	.NET Framework 类型
decimal	±1.0 × 10e?28 至 ±7.9 × 10e28	28 到 29 位有效位	System.Decimal

 

s在声明decimal类型数据时，可以 a: decimal myData = 100，此时编译器隐式转换整型数100为 100.0m；当然也可以b: decimal myData = 100.0m，但是 如果是 decimal myData = 100.0d或者decimal myData = 100.0f，就不行了，因为100.0d或者100.0f，编译器认为是浮点数，而浮点数和decimal 类型之间不存在隐式转换；因此，必须使用强制转换在这两种类型之间进行转换。This is the important,否则编译器便报错。所以一般的财务软件在处理时，都会用decimal 类型。

好了，改用decimal 型之后，就OK 了，结果就完完整整地显示为 66.24 了。

 

--------------------------------------------------------------------------------------------------------------------------------------------------

MySQL官方文档 http://dev.mysql.com/doc/refman/5.1/zh/index.html

引用

对于浮点列类型，在MySQL中单精度值使用4个字节，双精度值使用8个字节。

FLOAT类型用于表示近似数值数据类型。SQL标准允许在关键字FLOAT后面的括号内选择用位指定精度(但不能为指数范围)。MySQL还支持可选的只用于确定存储大小的精度规定。0到23的精度对应FLOAT列的4字节单精度。24到53的精度对应DOUBLE列的8字节双精度。

MySQL允许使用非标准语法：FLOAT(M,D)或REAL(M,D)或DOUBLE PRECISION(M,D)。这里，“(M,D)”表示该值一共显示M位整数，其中D位位于小数点后面。例如，定义为FLOAT(7,4)的一个列可以显示为-999.9999。MySQL保存值时进行四舍五入，因此如果在FLOAT(7,4)列内插入999.00009，近似结果是999.0001。

MySQL将DOUBLE视为DOUBLE PRECISION(非标准扩展)的同义词。MySQL还将REAL视为DOUBLE PRECISION(非标准扩展)的同义词，除非SQL服务器模式包括REAL_AS_FLOAT选项。

为了保证最大可能的可移植性，需要使用近似数值数据值存储的代码应使用FLOAT或DOUBLE PRECISION，不规定精度或位数。

DECIMAL和NUMERIC类型在MySQL中视为相同的类型。它们用于保存必须为确切精度的值，例如货币数据。当声明该类型的列时，可以(并且通常要)指定精度和标度；例如：

salary DECIMAL(5,2)
在该例子中，5是精度，2是标度。精度表示保存值的主要位数，标度表示小数点后面可以保存的位数。

在MySQL 5.1中以二进制格式保存DECIMAL和NUMERIC值。

标准SQL要求salary列能够用5位整数位和两位小数保存任何值。因此，在这种情况下可以保存在salary列的值的范围是从-999.99到999.99。

在标准SQL中，语法DECIMAL(M)等价于DECIMAL(M,0)。同样，语法DECIMAL等价于DECIMAL(M,0)，可以通过计算确定M的值。在MySQL 5.1中支持DECIMAL和NUMERIC数据类型的变量形式。M默认值是10。

DECIMAL或NUMERIC的最大位数是65，但具体的DECIMAL或NUMERIC列的实际范围受具体列的精度或标度约束。如果此类列分配的值小数点后面的位数超过指定的标度允许的范围，值被转换为该标度。(具体操作与操作系统有关，但一般结果均被截取到允许的位数）。

BIT数据类型可用来保存位字段值。BIT(M)类型允许存储M位值。M范围为1到64。

要指定位值，可以使用b'value'符。value是一个用0和1编写的二进制值。例如，b'111'和b'100000000'分别表示7和128。参见9.1.5节，“位字段值”。

如果为BIT(M)列分配的值的长度小于M位，在值的左边用0填充。例如，为BIT(6)列分配一个值b'101'，其效果与分配b'000101'相同。

当要在一个数值列内保存一个超出该列允许范围的值时，MySQL的操作取决于此时有效的SQL模式。如果模式未设置，MySQL将值裁剪到范围的相应端点，并保存裁减好的值。但是，如果模式设置为traditional(“严格模式”)，超出范围的值将被拒绝并提示错误，并且根据SQL标准插入会失败。参见5.3.2节，“SQL服务器模式”。

如果INT列是UNSIGNED，列范围的大小相同，但其端点会变为到0和4294967295。如果你试图保存-9999999999和9999999999，以非严格模式保存到列中的值是0和4294967296。

如果在浮点或定点列中分配的值超过指定(或默认)精度和标度规定的范围，MySQL以非严格模式保存表示范围相应端点的值。