2020年10月15日
计算机计算小数的方法
摘要： 以0.5为例，0.5*2=1，所以二进制表示为0.10 以0.625为例，0.625*2=1.25,所以二进制表示为0.101 而这种情况下,0.1是无限循环状态，所以我们使用IEEE 754标准，即float，与double使用sem序列，表达式为n=(-1)^s*m*2^e 当n<0时，s=1， 阅读全文
posted @ 2020-10-15 14:28 huxiaojie 阅读(1657) 评论(0) 推荐(0) 编辑