浮点型 转化 成 整形 那点事

我们都知道  浮点型 不是很精确的,所以在进行类型转化的时候就会出现很多意向不到的问题

我使用php给大家用代码说说这事

1
2
3
$a = 2.01;
var_dump(sprintf('%.20F'$a * 100));//string(24) "200.99999999999997157829"
var_dump( intval$a * 100) );//int(200)

上面的结果很出人意料吧,2.01 * 100 应该是201吧,居然是200.99999999....  这样就可以解释 为什么 后面的转化成整形变成200了

如何解决这种问题了?   float => int  之前先使用round

1
2
3
$a = 2.01;
var_dump(sprintf('%.20F'$a * 100));//string(24) "200.99999999999997157829"
var_dump( intvalround($a * 100) ) );//int(201)

其实大部分情况都不用太考虑这种问题,但是在支付系统中就要考虑这个问题,因为商品的价格一般需要支付到分,上面的2.01 就是到分。这个时候如果订单数据表中存放的价格单位是分就有问题了,  根据上面的事例很有可能存的就是200,210的商品,最后已200结算了。



终极解决方案 对于精度有要求的使用mysql 的 decimal类型



原文地址:浮点型 转化 成 整形 那点事
标签:float   int   

智能推荐

posted on   即学即码+  阅读(2034)  评论(0编辑  收藏  举报

编辑推荐:
· 智能桌面机器人:用.NET IoT库控制舵机并多方法播放表情
· Linux glibc自带哈希表的用例及性能测试
· 深入理解 Mybatis 分库分表执行原理
· 如何打造一个高并发系统?
· .NET Core GC压缩(compact_phase)底层原理浅谈
阅读排行:
· 手把手教你在本地部署DeepSeek R1,搭建web-ui ,建议收藏!
· 新年开篇:在本地部署DeepSeek大模型实现联网增强的AI应用
· Janus Pro:DeepSeek 开源革新,多模态 AI 的未来
· 互联网不景气了那就玩玩嵌入式吧,用纯.NET开发并制作一个智能桌面机器人(三):用.NET IoT库
· 【非技术】说说2024年我都干了些啥
< 2025年1月 >
29 30 31 1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31 1
2 3 4 5 6 7 8

统计

点击右上角即可分享
微信分享提示