golang踩坑之floa64精度丢失
问题:19.90转为float64类型,再乘以100,精度丢失
废话不说多,show you the code
package main
import (
"fmt"
"strconv"
)
func main() {
num, _ := strconv.ParseFloat(fmt.Sprintf("%.2f", 19.90), 64)
fmt.Println(num)
fmt.Println(num * 100)
}
运行输出
19.9
1989.9999999999998
19.9转成float64后,再乘以100,居然变成了1989.9999999999998
这个精度的问题要是出现在现金的问题上就厉害了!
解决
使用包的decimal类型:github.com/shopspring/decimal
代码改为如下
package main
import (
"fmt"
"github.com/shopspring/decimal"
"strconv"
)
func main() {
num, _ := strconv.ParseFloat(fmt.Sprintf("%.8f", 19.90), 64)
fmt.Println(num)
decimalValue := decimal.NewFromFloat(num)
decimalValue = decimalValue.Mul(decimal.NewFromInt(100))
res,_ := decimalValue.Float64()
fmt.Println(res)
}
运行输出
19.9
1990
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· C#/.NET/.NET Core优秀项目和框架2025年2月简报
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 【杭电多校比赛记录】2025“钉耙编程”中国大学生算法设计春季联赛(1)