2021年1月4日
浮点数如何存储与表示（精度问题）
摘要： 计算机中的数值表示 为特定数据选择其在计算机中的存储与表示方式时，主要考虑以下几个因素： 要表示的数的类型（小数、整数、实数或复数）； 可能需要的数值范围； 数值的精确度要求； 数据存储和处理所需要的硬件代价； 定点数与浮点数 整数在计算机中一般使用整型处理，其在内存中的存储形式为二进制补码，有关整 阅读全文
posted @ 2021-01-04 11:29 箐茗 阅读(3346) 评论(0) 推荐(1) 编辑