浮点型 转化 成 整形 那点事
我们都知道 浮点型 不是很精确的,所以在进行类型转化的时候就会出现很多意向不到的问题
我使用php给大家用代码说说这事
1 2 3 | $a = 2.01; var_dump(sprintf( '%.20F' , $a * 100)); //string(24) "200.99999999999997157829" var_dump( intval ( $a * 100) ); //int(200) |
上面的结果很出人意料吧,2.01 * 100 应该是201吧,居然是200.99999999.... 这样就可以解释 为什么 后面的转化成整形变成200了
如何解决这种问题了? float => int 之前先使用round
1 2 3 | $a = 2.01; var_dump(sprintf( '%.20F' , $a * 100)); //string(24) "200.99999999999997157829" var_dump( intval ( round ( $a * 100) ) ); //int(201) |
其实大部分情况都不用太考虑这种问题,但是在支付系统中就要考虑这个问题,因为商品的价格一般需要支付到分,上面的2.01 就是到分。这个时候如果订单数据表中存放的价格单位是分就有问题了, 根据上面的事例很有可能存的就是200,210的商品,最后已200结算了。
终极解决方案 对于精度有要求的使用mysql 的 decimal类型
原文地址:浮点型 转化 成 整形 那点事
标签:float int
智能推荐
即学即码 分享 PHP、Linux、Python、Go,大数据,机器学习,人工智能等技术。马上学习码上学会。www.jixuejima.cn 公众号:learn_master
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 智能桌面机器人:用.NET IoT库控制舵机并多方法播放表情
· Linux glibc自带哈希表的用例及性能测试
· 深入理解 Mybatis 分库分表执行原理
· 如何打造一个高并发系统?
· .NET Core GC压缩(compact_phase)底层原理浅谈
· 手把手教你在本地部署DeepSeek R1,搭建web-ui ,建议收藏!
· 新年开篇:在本地部署DeepSeek大模型实现联网增强的AI应用
· Janus Pro:DeepSeek 开源革新,多模态 AI 的未来
· 互联网不景气了那就玩玩嵌入式吧,用纯.NET开发并制作一个智能桌面机器人(三):用.NET IoT库
· 【非技术】说说2024年我都干了些啥