会员
周边
众包
新闻
博问
闪存
赞助商
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
Kiralin
博客园
首页
新随笔
联系
订阅
管理
2019年4月26日
震惊!计算机连0.3+0.6都算不对?浅谈IEEE754浮点数算数标准
摘要: 最初碰到这个问题是在写js的金额计算中遇到的,始终找不到是什么原因造成的,于是把锅甩给了JS:垃圾js浮点运算有bug!然后百度拷贝了一个解决浮点 运算的函数才解决了问题。 直到最近才发现,原来不仅js会“算不清”0.3+0.6,C#,JAVA,Python等很多语言都绕不过这个问题! 原来这是因为
阅读全文
posted @ 2019-04-26 14:51 Kiralin
阅读(902)
评论(0)
推荐(1)
编辑
公告