DB2中的Spatial Extent 7位精度
为什么DB2中的Spatial Extent使用WGS84参考系的时候只能保留7位的精度,并且如果第七位小数位为0的时候会被转换为1?
原因在下面的db2文档中有解释。
http://publib.boulder.ibm.com/infocenter/db2luw/v9/index.jsp?topic=%2Fcom.ibm.db2.udb.spatial.doc%2Fdb2sb37.html
http://publib.boulder.ibm.com/infocenter/db2luw/v9/index.jsp?topic=%2Fcom.ibm.db2.udb.spatial.doc%2Frsb1806a.html
总体来说就是小数和负数的坐标要先转换成整数,再进行地理运算。WGS84的xScale和yScale是5,965,232
所以41.7656890被转换成41.7656891的原因就是:
41.7656890*5965232=249142024.524848 ≈ 249142025
249142025/5965232=41.76568907965357 ≈ 41.7656891