定点数与浮点数

定点数的表示

定点数:小数点的位置固定 Eg:996.007 常规计数
浮点数:小数点的位置不固定 Eg: 9.96007*102 科学计数法

无符号数:整个机器字长的全部二进制位均为数值位,没有符号位,相当于数的绝对值。image-20211220095746082

原码

image-20211220100645917

反码
若符号位为0,则反码与原码相同。若符号位为1,则数值位全部取反

补码
正数的补码=原码
负数的补码=反码末位+1 (要考虑进位), 将负数补码转回原码的方法相同:尾数取反,末位+1

image-20211220120610311

移码:
补码的基础上将符号位取反。注意:移码只能用于表示整数

image-20211221180739592

加减运算

了解模的概念,任何运算结果都是在(mod 2^8)后保留最低8位

image-20211222142606030

移位运算

  • image-20211222144757549

溢出判断

image-20211222150919406

方法一:采用一位符号位设A的符号为As,B的符号为Bs,运算结果的符号为Ss,则溢出逻辑表达式为0image-20211222151110825
若V=0,表示无溢出;
若V=1,表示有溢出。

方法二

image-20211222151358652

方法三

image-20211222151543699

总结

image-20211222151941842

浮点数规格化

image-20211222160743533

image-20211222161950090

浮点数加减

image-20211222195200149

posted @   卓亦苇  阅读(141)  评论(0编辑  收藏  举报
编辑推荐:
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构
· AI与.NET技术实操系列(六):基于图像分类模型对图像进行分类
点击右上角即可分享
微信分享提示