在OpenGL中,如果场景坐标用大地坐标,由于float的限制会造成误差

大地坐标的数值范围都比较大,而在OpenGL和OpenInventor中都是用float来存储所有数值的,所以会产生误差,试验的结果如下:

20633460, 20633460.00

20633461, 20633460.00

20633462, 20633460.00

20633463, 20633460.00

20633464, 20633460.00

20633465, 20633460.00

20633466, 20633470.00

20633467, 20633470.00

20633468, 20633470.00

20633469, 20633470.00

20633470, 20633470.00

20633471, 20633470.00

20633472, 20633470.00

20633473, 20633470.00

20633474, 20633470.00

20633475, 20633480.00

20633476, 20633480.00

20633477, 20633480.00

20633478, 20633480.00

20633479, 20633480.00

这个结果只是没有经过任何运算而直接输出的,如果中间有一些大数减大数之类的运算,会产生更大的误差。

所以在OpenInventor中的坐标系中必须要坐标系变换到较小的数值范围中。

试验代码:
        static void Main(string[] args)
        {
            for (int i = 0; i < 20; i++)
            {
                int a = 20633460 + i;
                string str = string.Format("{0}, {1:f}",a, (float)a);
                Console.WriteLine(str);
            }
           
            Console.ReadKey();
        }
posted @ 2012-02-27 08:52  申龙斌的程序人生  阅读(751)  评论(0编辑  收藏  举报