随笔分类 - Principles of Computer Composition

十六进制浮点转十进制浮点型

摘要：public static double modbusFloat(byte[] bits) { double rtn = 0; int flag = 1; if (bits.length == 4) { int E = bits[0] & 0x80; if (E > 0) { ... 阅读全文

posted @ 2016-12-20 11:14 limeOracle 阅读(2282) 评论(0) 推荐(0) 编辑

float浮点数的二进制存储方式及转换

摘要：int和float都是4字节32位表示形式。为什么float的范围大于int？ float精度为6～7位。1.66*10^10的数字结果并不是166 0000 0000 指数越大，误差越大。这些问题，都是浮点数的存储方式造成的。 float和double在存储方式上都是遵从IEEE的规范的，flo 阅读全文

posted @ 2016-12-19 19:19 limeOracle 阅读(19299) 评论(2) 推荐(2) 编辑