在OpenGL中,如果场景坐标用大地坐标,由于float的限制会造成误差
大地坐标的数值范围都比较大,而在OpenGL和OpenInventor中都是用float来存储所有数值的,所以会产生误差,试验的结果如下:
20633460, 20633460.00
20633461, 20633460.00
20633462, 20633460.00
20633463, 20633460.00
20633464, 20633460.00
20633465, 20633460.00
20633466, 20633470.00
20633467, 20633470.00
20633468, 20633470.00
20633469, 20633470.00
20633470, 20633470.00
20633471, 20633470.00
20633472, 20633470.00
20633473, 20633470.00
20633474, 20633470.00
20633475, 20633480.00
20633476, 20633480.00
20633477, 20633480.00
20633478, 20633480.00
20633479, 20633480.00
这个结果只是没有经过任何运算而直接输出的,如果中间有一些大数减大数之类的运算,会产生更大的误差。
所以在OpenInventor中的坐标系中必须要坐标系变换到较小的数值范围中。
试验代码:
static void Main(string[] args)
{
for (int i = 0; i < 20; i++)
{
int a = 20633460 + i;
string str = string.Format("{0}, {1:f}",a, (float)a);
Console.WriteLine(str);
}
Console.ReadKey();
}
----==== Email: slofslb (GTD) qq.com 请将(GTD)换成@ ====----
版权声明:自由转载-非商用-非衍生-保持署名(创意共享3.0许可证)
作者:申龙斌的程序人生
---- 魔方、桥牌、象棋、游戏人生...
---- BASIC、C++、JAVA、C#、Haskell、Objective-C、Open Inventor、程序人生...
---- GTD伴我实现人生目标
---- 区块链生存训练
---- 用欧拉计划学Rust编程
---- 申龙斌的读书笔记(2011-2019)
----