浮点类型丢失精度的问题

 

想写下这个问题是因为前两天有一个需求,需要把设立数据库的某字段为double类型,并且该字段值会参与比较,我就想到把这个记下来,其实数据库中还是要尽量避免浮点类型的数据参与运算或比较的。

首先我们要理解为什么浮点类型的数据会丢失精度,就要先理解为什么整型数据不会丢失精度。在计算机世界中,所有的数字在底层都会被转化成0和1组合的机器码。在大学里的第一件事就是学会怎样在十进制和二进制之间转换,比如十进制5转换成二进制的步骤如下:

step1:5/2=2.....1

step2:2/2=1.....0

step3:1/2=0.....1

从下至上的101便是5的二进制,这是整数,模2的余数只有0和1两种情况,也就是说任何一个整数,我们不断模2到最后的必定会得到1/2=0.....1的情况,只要是整数,就必定会这样。因此,十进制整数转为二进制是唯一的。

那么十进制的小数是怎样转换成二进制的呢?十进制的小数转换为二进制,主要是小数部分乘以2,取整数部分依次从左往右放在小数点后,直至小数点后为0。那么我们考虑如下的情况,以0.1为例:

step1:0.1*2=0.2  -----取0

step2:0.2*2=0.4  -----取0

step3:0.4*2=0.8  -----取0

step4:0.8*2=1.6  -----取1

step5:0.6*2=1.2  -----取1

step6:0.2*2=0.4  -----取0     这时我们发现已经回到了step2,因此会一直循环下去,得到的0.1对应的二进制也是0.0 0011 0011 ......

我们常说的浮点类型由两种:单精度和双精度,单精度,也就是 float ,在 32 位机器上用 4 个字节来存储的;而双精度double是用 8 个字节来存储的(从这儿也能发现double不仅表示范围更广,也更加精确)。当遇到这种无限循环的小数,位数已经超出了float或者double的最大比特数,那么只能截取,也正是因为如此,造成了精度的丢失。

 

最后送大家一个tip(来自Alibaba Java开发手册):在要求绝对精确表示的业务场景下,比如金融行业的货币表示,推荐使用整型存储其最小的单位的值,展示时可以转换成该货币的常用单位,比如人民币使用分存储,美元使用美分存储。在要求精度表示小数点N位的业务场景下,比如圆周率要求存储小数点后1000位数字,是同单精度和双精度浮点数类型保存是难以做到的,这时推荐采用数组保存小数部分的数据。在比较浮点数时,由于存在误差,往往会出现意料之外的结果,所以禁止通过判断两个浮点数是否相等来控制某些业务流程。在数据库中保存小数时,推荐使用decimal类型,禁止使用float或者double。因为这两种类型在存储的时候存在精度丢失的问题。

 

posted @ 2019-08-02 02:01  吃一两胖一斤  阅读(522)  评论(0编辑  收藏  举报