计算机进行小数运算出错的原因0.2 + 0.1 = 0.30000000000000004

0.2 + 0.1 = 0.30000000000000004

二进制转十进制： 0101

  位数：4<--1--0--负1---<

1x2的位数次方=1x1

0x2的位数次方=0x2

1x2的位数次方=1x4

0x2的位数次方=0x8

 

十进制：5

======================

二进制        十进制

0.00000====0

0.00001====0.0625

0.00002====0.125

0.00003====0.1857

 

也就是十进制0.1二进制表示有误差。。。。

 

posted @ 2018-05-25 18:50  Y.anCy  阅读(345)  评论(0)  编辑  收藏  举报