反序列化的精度丢失问题
2022.8.21 七月廿四 星期日 29~ 37℃ 多云 东南风 2级
帮朋友一个小忙,转84到bd09.
数量不多就手工转了。转完了就想用程序做一个批量转换的程序,就发现从服务器端获取的坐标字符串,经过反序列化后,精度丢失的问题。
比如,获取到的原始数值是
121.41462186817091,30.009361936386957,但是序列化后成了
121.414621868171 ,30.009361936387。
对比一下,丢失了不少吧。
测试了几种方式,确定是在反序列化的时候丢的。
但是,从应用的层面看,丢失的几位对实际精度问题不大。e-15和e-12其实是差不多的。
只是一个轻轻的过客……