在OpenGL中,如果场景坐标用大地坐标,由于float的限制会造成误差
大地坐标的数值范围都比较大,而在OpenGL和OpenInventor中都是用float来存储所有数值的,所以会产生误差,试验的结果如下:
20633460, 20633460.00
20633461, 20633460.00
20633462, 20633460.00
20633463, 20633460.00
20633464, 20633460.00
20633465, 20633460.00
20633466, 20633470.00
20633467, 20633470.00
20633468, 20633470.00
20633469, 20633470.00
20633470, 20633470.00
20633471, 20633470.00
20633472, 20633470.00
20633473, 20633470.00
20633474, 20633470.00
20633475, 20633480.00
20633476, 20633480.00
20633477, 20633480.00
20633478, 20633480.00
20633479, 20633480.00
这个结果只是没有经过任何运算而直接输出的,如果中间有一些大数减大数之类的运算,会产生更大的误差。
所以在OpenInventor中的坐标系中必须要坐标系变换到较小的数值范围中。
试验代码:
static void Main(string[] args)
{
for (int i = 0; i < 20; i++)
{
int a = 20633460 + i;
string str = string.Format("{0}, {1:f}",a, (float)a);
Console.WriteLine(str);
}
Console.ReadKey();
}
----==== Email: slofslb (GTD) qq.com 请将(GTD)换成@ ====----
版权声明:自由转载-非商用-非衍生-保持署名(创意共享3.0许可证)
作者:申龙斌的程序人生
---- 魔方、桥牌、象棋、游戏人生...
---- BASIC、C++、JAVA、C#、Haskell、Objective-C、Open Inventor、程序人生...
---- GTD伴我实现人生目标
---- 区块链生存训练
---- 用欧拉计划学Rust编程
---- 申龙斌的读书笔记(2011-2019)
----

分类:
1. 油田信息可视化
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构