浮点数与定点数辨析
定点数:小数点是固定的
浮点数:小数点是不固定的
在相同的内存条件下,浮点数表示的数的范围更广,但是定点数的精确度更高
定点数的小数点是固定的,虽然他的精度很高,但是精度限制了他的表达范围,对于同时表达出很大的数和很小的数很难做到,小数点的固定限制了他的表达范围
浮点数的尾数和阶码的特殊表达方式,虽然导致他的精度受到了影响,但是却在相同的空间内使得浮点数可以表达更大的范围,尾数就是类似科学计数法前面的有效数字,而阶码就是后面的2的指数,因此它可以表示更大的范围
目前没有系统的学习到浮点数和定点数,后面笔者会回来继续补充二者在底层实现上的异同
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)