2019年7月21日
为什么浮点型运算结果会有误差？
摘要： 如var a=0.65; var b=0.6; console.log(a-b)==0.05???错 a-b=0.050000000000000044 为什么？ 其根本原因在于计算机所使用的01代码无法准确地表示某些带小数的十进制数据。 下面我们来分析下： 我们知道将一个十进制数值转换为二进制数值， 阅读全文
posted @ 2019-07-21 15:56 安xiao曦 阅读(795) 评论(0) 推荐(1) 编辑