摘要: 来自为知笔记(Wiz) 阅读全文
posted @ 2014-10-24 16:33 樱花猪 阅读(277) 评论(0) 推荐(0) 编辑
摘要: 最近做项目用了两个编译器,由于是一种精度的算法计算,对计算的精度要求非常高,同时都用的float型,发现inter的结果比vs的结果好许多。但是不知道是什么原因,最后测试发现,是两个编译器的问题。 测试后发现:float型在v100编译器中,第6位是有效的,6位以后似乎是随机的,不是那么准确了,但是inter处理器中,float型也是按照double来计算的,所以最后结... 阅读全文
posted @ 2014-10-24 16:28 樱花猪 阅读(261) 评论(0) 推荐(0) 编辑