【图1.1】
红色阴影部分公式见下图:
【图1.2】
=IF(E7=0,IF(E8>0,PI()/2,IF(E8<0,3*PI()/2,"同一点")),IF(E7>0,IF(E8>0,E10,IF(E8<0,2*PI()-E10,0)),IF(E8>0,PI()-E10,PI()+E10)))
【图2.1】计算错误(概念错误)
【图2.2】计算正确
今天拿到一段道路的图纸,在计算一条路线段的(*方*位*角*)时出现一个问题。
计算A-B的坐标(*方*位*角*)。
坐标A点 X=3000916.559 Y=20742004.367
坐标B点 X=3000903.815 Y=20741997.040
出现的情况如下:
1,在用CAD画图的时候量得其A--B的(*方*位*角*)是209°53’46.32''
2,fx-4500p计算:tan-1((20741997.040-20742004.367)/(3000903.815-3000916.559))计算得29°52'21.15''考虑其(*方*位*角*)在第3象限,角应该加上180度,该结果是209°52'21.15''
3,因为其结果有差异,我还是用fx-4500p计算,省略了Y坐标前面的20,这个对结果的影响应该不大,计算式如下:tan-1((741997.040-742004.367)/(3000903.815-3000916.559))计算得29°53’46.32'',角度在第3象限,应该加上180°的话就是209°53’46.32'',现在与量的结果一样。这个应该是正确的结果,用平差易的坐标反算也计算是这个结果。
我的问题是,为什么会出现第2种情况的,错误在哪里??
---------------------------------------------------------------------
出现第2种情况的,是计算错误.正确的是29°53’46.32““。
可能数据输入错误。
20不是真正的坐标,是带号。
由于要减,计算时还可简化tan-1((1997.040-2004.367)/(3.815-16.559))计算得29°53'46.32"
---------------------------------------------------------------------
问题已经解决了,并不是数据输入的错误了,是因为计算器输入的数据太长了,在计算的时候舍掉了后面的一位数值。20742004.367在计算器中是以20742004.36计算的。
---------------------------------------------------------------------
计算器的有效位数是固定的,若数据很长,一定要把两组坐标前面相同的大数截去,既不影响结果,又提高了精度。这种现象在计算乘法时尤其突出。
---------------------------------------------------------------------
是不是计算器的设置问题啊,我看你发帖后我又算了一遍,还是这个结果的,按道理说前面有20和没有20计算上应该是一个结果的。但是 20741997.040-20742004.367= -7.32 的,本来应该是 -7.327 的,计算器是省略了最后一位数了,我也不知道怎么回事啊。