2017年1月6日
关于浮点数精度的问题
摘要： float double数精度，自己原来也不怎么在乎，但这大半年下来竟然发现屡屡在此问题上栽跟头。 总结下来写渲染程序： 1.在CPU端尽量设置为double类型数据计算各种变换矩阵，最终传给GPU时再弄为float。 2.如果数值偏差太大，建议先转换为局部坐标系进行各种计算，最终转换为最后的坐标系 阅读全文
posted @ 2017-01-06 10:06 LHZ593 阅读(188) 评论(0) 推荐(0) 编辑