在OpenGL中,如果场景坐标用大地坐标,由于float的限制会造成误差

大地坐标的数值范围都比较大,而在OpenGL和OpenInventor中都是用float来存储所有数值的,所以会产生误差,试验的结果如下:

20633460, 20633460.00

20633461, 20633460.00

20633462, 20633460.00

20633463, 20633460.00

20633464, 20633460.00

20633465, 20633460.00

20633466, 20633470.00

20633467, 20633470.00

20633468, 20633470.00

20633469, 20633470.00

20633470, 20633470.00

20633471, 20633470.00

20633472, 20633470.00

20633473, 20633470.00

20633474, 20633470.00

20633475, 20633480.00

20633476, 20633480.00

20633477, 20633480.00

20633478, 20633480.00

20633479, 20633480.00

这个结果只是没有经过任何运算而直接输出的,如果中间有一些大数减大数之类的运算,会产生更大的误差。

所以在OpenInventor中的坐标系中必须要坐标系变换到较小的数值范围中。

试验代码:
        static void Main(string[] args)
        {
            for (int i = 0; i < 20; i++)
            {
                int a = 20633460 + i;
                string str = string.Format("{0}, {1:f}",a, (float)a);
                Console.WriteLine(str);
            }
           
            Console.ReadKey();
        }


----==== Email: slofslb (GTD) qq.com 请将(GTD)换成@ ====----
版权声明:自由转载-非商用-非衍生-保持署名(创意共享3.0许可证
作者:申龙斌的程序人生

---- 魔方桥牌象棋、游戏人生...
---- BASIC、C++、JAVA、C#HaskellObjective-COpen Inventor、程序人生...
---- GTD伴我实现人生目标
---- 区块链生存训练
---- 用欧拉计划学Rust编程
---- 申龙斌的读书笔记(2011-2019)
----
原文地址:https://www.cnblogs.com/speeding/p/2369343.html