JS进制转换总结
问题
如:0xf5 转 十进制, 使用 parseInt('f5', 16) 进行转换,结果为:245。结果没错,但不是我想要的结果。
JS 在转换时,把 0xf5 看作是多字节的,高位字节补 0。完整格式为:0x000000f5 或者 0x0000000000000000f5 (反正比0xf5单字节大) (二进制为 00000000000000000000000011110101), 其转换为十进制自然是 245。
但是我想要的是把 0xf5 看作是单字节的。格式为:0xf5(二进制为 11110101),其转换结果为:-11。
解决方法
问题原因就是,js默认把0xf5看作是一个多字节的。那么解决方法就是把0xf5看作是单字节的或者把0xf5看作是多字节有符号的(也就是 0xfffffff5)。
解决办法有三个:
1:使用 Int8Array 包装一下:
Int8Array 为二进制补码8位有符号整数的数组,并默认转成了10进制。取出来即可。
而如果使用Uint8Array:则是无符号的,结果为 245。
2:(不推荐)将高位字节转换为1,也就是把 00000000000000000000000011110101 改为 11111111111111111111111111110101:
直接使用按位或操作:将 0xf5 按位或 0xffffff00:
这种方法是强制将高位字节改为 1。此方法弊端是如果数字较大或较小,或的值就需要跟着变。
3:此种方法跟第二种差不多,但更通用。
此种方法是使用按位与操作:将0xf5 按位与 0xffffffff,但要注意的是,0xf5 与 0xffffffff 的字节必须一样。也就是把 0xf5 看作是多字节有符号的,修改为 0xfffffff5。
0xfffffff5 与 0xffffffff 操作后还是 0xfffffff5,但他已经是有符号的了。所以结果为有符号的。
总结(进制转换)
1:有符号转换
十六进制 转 十进制:
1 parseInt(new Int8Array(['0xf5'])) // -11 2 new Int8Array(['0xf5'])[0] //-11 3 parseInt('0xffffff' + 'f5' & '0xffffffff') // -11
十进制 转 十六进制:
1 new Uint8Array(['-11'])[0].toString(16) // f5
2:无符号转换
十六进制 转 十进制:
1 parseInt(new Uint8Array(['0xf5'])) //245 2 new Uint8Array(['0xf5']) //245 3 parseInt('0x' + 'f5' & '0xffffffff') //245
4 parseInt('f5', 16) //245
5 parseInt(0xf5) //245
十进制 转 十六进制:
1 parseInt(245).toString(16) // f5 2 new Uint8Array(['245'])[0].toString(16) //f5
parseInt(0xfffffff5)
在转换 0xfffffff5时,其结果为 4294967285。
所以js在转换的时候,把0xfffffff5 看作了一个比4字节还大的数,所以高位为0,结果就为 4294967285。
在解决方法的第三点:需要两者字节一致,就是限制在某个字节下。也可以这样:0xffffffffffff & 0xfffffffffff5 // -11。
经过测试,最起码限定在 4字节或以上。