摘要: 数据类型导致计算不准确,如下图所示,当数据为I类型时,除法、向上取整、向下取整的结果都为2 当lv_index小于16时,取余数的值为lv_index 当数据类型为P或F时,向上取整和向下取整均是我们想要的结果;但是P类型时,除法计算仍然不是我们想要的正确结果 阅读全文
posted @ 2022-03-02 17:53 LikZ-WM 阅读(610) 评论(0) 推荐(0) 编辑