Qt下浮点数有效小数位数的处理

 

          unsigned int m_buf = 50179411;


    double result1 = m_buf/10000.0;

    QString strValue = QString::number(result1, 'f', 4);
    qDebug()<<"strValue:"<<strValue;

 


  如上:一个整型50179411它的意思要表达的其实是5017.9411,

 那么可以使用 m_buf/10000.0 当调式时可以看到得到的值 就是 5017.9411,

但是如果qdebug输出来 则会保留2位小数,成了5017.94;

要完整输出这个值,可以使用QString::number(result1, 'f', 4) 保留需要的小数位。

如果是进行计算,则应该直接使用 result1 这个 double变量就可以。

 

posted @ 2021-04-16 15:10  伟大的厨师  阅读(4100)  评论(0编辑  收藏  举报