2020年10月25日
关于float、double小项问题
摘要： 问题表述 对于（int）90*0.7，在float下会算出63，而在double下则会取得62。 根本原因 double和float的精度不同，因而对于数字的保存不同，例如0.7在double下会有一个小项，导致存储是是63-（一个很小的数），所以在取int时（舍弃低位），就会变成62。 有些时候f 阅读全文
posted @ 2020-10-25 20:59 尹昱钦 阅读(107) 评论(0) 推荐(0) 编辑