随笔 - 31  文章 - 0  评论 - 9  阅读 - 41075

浮点型数据转整型的丢失精度问题(C++)

如下代码:http://ideone.com/xcgHgw

复制代码
#include <iostream>
using namespace std;

int main() {
    // your code goes here
    int i = 0;
    i = 9.0 * 0.6 + 0.6;
    cout << i << endl;
    
    i = 9.0 * 0.6 + 0.6;
    cout << i << endl;
    
    i = (double)(9.0 * 0.6 + 0.6);
    cout << i << endl;
    
    cout << (double)(9.0 * 0.6 + 0.6);
    return 0;
}
复制代码

本意是打印4个6;

但是打印结果是:

5

5

5

6;

原因是

9.0 * 0.6的返回值很有可能是5.3999...,+ 0.6后是5.9999...;强制转换为int型后是5;

解决方案是:

不要将double型的数据赋给整型,否则可能出现与初衷不符。

 

posted on   _bob  阅读(2455)  评论(0编辑  收藏  举报
编辑推荐:
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
阅读排行:
· winform 绘制太阳,地球,月球 运作规律
· 震惊!C++程序真的从main开始吗?99%的程序员都答错了
· AI与.NET技术实操系列(五):向量存储与相似性搜索在 .NET 中的实现
· 超详细:普通电脑也行Windows部署deepseek R1训练数据并当服务器共享给他人
· 【硬核科普】Trae如何「偷看」你的代码?零基础破解AI编程运行原理
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

点击右上角即可分享
微信分享提示