JS的toFixed方法设置小数点位数后再进行计算,数据出错问题

这个应该算作失真,或者也不算。情况就是用了toFixed后再进行相关计算,得不到预期的结果

具体看例子

比如想动态计算百分比,保留一位小数如94.4%这样子

var blobTo = 409600;
var totalSize = 433927;
var percent = (blobTo / totalSize).toFixed(3) * 100;

percent // 94.39999999999999

恰巧碰到这个,然而percent并不是预期的结果。于是,测试各段数据

复制代码
var blobTo = 409600;
var totalSize = 433927;
var percent1 = (blobTo / totalSize);
var percent2 = (blobTo / totalSize).toFixed(3);
var percent3 = (blobTo / totalSize).toFixed(3) * 100;
var percent4 = (blobTo / totalSize).toFixed(3) * 1;
var percent5 = (blobTo / totalSize).toFixed(3) * 10;

console.log(percent1, typeof(percent1)); // 0.9439375747533572 "number"
console.log(percent2, typeof(percent2)); // 0.944 string
console.log(percent3, typeof(percent3)); // 94.39999999999999 "number"
console.log(percent4, typeof(percent4)); // 0.944 "number"
console.log(percent5, typeof(percent5)); // 9.44 "number"
复制代码

好生奇怪... 乘以10正常,当乘以100时,好像失真了

不明觉厉

最后找到一种方法解决,在括号里面先乘上100

var percent = (100* blobTo / totalSize).toFixed(1);

percent // 94.4

 

还不知道具体是为啥这样,知道的可以告诉我哈~

posted @   -渔人码头-  阅读(685)  评论(0编辑  收藏  举报
编辑推荐:
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
阅读排行:
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· DeepSeek如何颠覆传统软件测试?测试工程师会被淘汰吗?
点击右上角即可分享
微信分享提示