摘要: 对于单精度浮点数Float: 当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定,没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是double是浮点计算,decimal是定点计算,会得到更精确的 阅读全文
posted @ 2020-02-14 11:26 飘飘雪 阅读(4450) 评论(0) 推荐(0) 编辑