DB2中的Spatial Extent 7位精度

为什么DB2中的Spatial Extent使用WGS84参考系的时候只能保留7位的精度,并且如果第七位小数位为0的时候会被转换为1?

原因在下面的db2文档中有解释。

http://publib.boulder.ibm.com/infocenter/db2luw/v9/index.jsp?topic=%2Fcom.ibm.db2.udb.spatial.doc%2Fdb2sb37.html
http://publib.boulder.ibm.com/infocenter/db2luw/v9/index.jsp?topic=%2Fcom.ibm.db2.udb.spatial.doc%2Frsb1806a.html

总体来说就是小数和负数的坐标要先转换成整数,再进行地理运算。WGS84的xScale和yScale是5,965,232

所以41.7656890被转换成41.7656891的原因就是:

41.7656890*5965232=249142024.524848 ≈ 249142025
249142025/5965232=41.76568907965357 ≈ 41.7656891

posted on 2013-03-13 18:14  yoyo002  阅读(364)  评论(0编辑  收藏  举报