摘要:
计算机中数据的舍入有4种方式1:向偶数舍入2:向0舍入3:向上舍入4:向下舍入其中2,3,4都很好理解,围绕着横坐标看就行: ->0<- 是向下舍入,<-0->是向上舍入那么什么是向偶数舍入呢?向偶数舍入(round to even),我们也成为向最in的值舍入(round to nearest),这里举几个例子说明一下:原始数字 舍入后 1.4 1 2.6 3 1.234999 1.23(要求百分位) 1.235001 1.24(同上)从以上的例子我们可以看到,向偶数舍入和向最接近的值舍入99%的舍入后的结果相似,不过为什么它们叫不同的名字呢?因为在一种特殊情况下.. 阅读全文
摘要:
计算机中浮点数的表示,按IEEE754标准位 V=pow(-1,s)*M*pow(2,E)符号(signed): s决定这个浮点数是整数还是负数,当硕士,这个浮点数位正,当s=1是,为负尾数(siginificant):M是一个2进制小数,它的范围是[1,2)或者[0,1)阶码(exponent):E的作痛是对浮点数加权,这个权重是2的E次幂在单精度(32位float)中,s占1位,E占8位,M占23位在双精度(64位double)中,s占1位,E占11位,M占52位根据E的编码,可将浮点数分成三种不同的情况:(以32位float为例)No1: 规格化浮点数 当E的编码既不是00000000并 阅读全文