2020年7月5日
IEEE-754浮点计算精度问题
摘要： 前言 了解IEEE-754之前，先了解下什么是十进制和二进制，以及它们之间如何转化 十进制 十进制按照字面意思来理解，就是逢十进一，比如我们现在用的货币也好，计算也好，都是十进制，用0-9十个数字来表示 二进制 十进制十逢十进一，二进制就是二进一，用0和1来表示所有的数字 二进制转十进制 二进制转十 阅读全文
posted @ 2020-07-05 12:32 凌雨尘 阅读(1131) 评论(0) 推荐(0) 编辑