反序列化的精度丢失问题

2022.8.21 七月廿四 星期日  29~ 37℃  多云 东南风 2级

 

帮朋友一个小忙,转84到bd09.

数量不多就手工转了。转完了就想用程序做一个批量转换的程序,就发现从服务器端获取的坐标字符串,经过反序列化后,精度丢失的问题。

比如,获取到的原始数值是

121.41462186817091,30.009361936386957,但是序列化后成了

121.414621868171    ,30.009361936387。

对比一下,丢失了不少吧。

测试了几种方式,确定是在反序列化的时候丢的。

但是,从应用的层面看,丢失的几位对实际精度问题不大。e-15和e-12其实是差不多的。

posted @ 2022-08-20 15:44  feedback  阅读(67)  评论(0编辑  收藏  举报