Day3 浮点数拓展
金融面试题:银行业务怎么表示钱?(答案是要用BigDecimal)
如果使用浮点数来进行比较,会有误差。因为浮点数例如float,表现的字长是有限的,而在数据处理的过程中,是会有离散的数值(无限的数值),因此系统会舍入误差,他的结果是接近的,大约的,但并不等于。
举例
图1. float和double的输出结果都是0.1,但是在进行比较时,显示false。
图2. 虽然float d2=d1+1,但在输出的结果上看是true。
金融面试题:银行业务怎么表示钱?(答案是要用BigDecimal)
如果使用浮点数来进行比较,会有误差。因为浮点数例如float,表现的字长是有限的,而在数据处理的过程中,是会有离散的数值(无限的数值),因此系统会舍入误差,他的结果是接近的,大约的,但并不等于。
举例
图1. float和double的输出结果都是0.1,但是在进行比较时,显示false。
图2. 虽然float d2=d1+1,但在输出的结果上看是true。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构