3.1-定点数运算及溢出检测

  • 在计算机中,常将数值转换成 补码 后再进行加减运算
  • 优点:可将减法运算转化为加法运算,这样可以简化机器内部硬件电路的结构
  • 补码运算的特点:符号位 和 数值位 一起参加运算

定点数加法运算#

定点数减法运算#

加减法运算规则总结#

数溢出的概念及其判断方法#

溢出:运算结果超出了某种数据类型的表示范围

案例#

  • 之所以发生错误,是因为运算结果产生了 溢出
    • 两个正数相加,结果大于机器所能 表示的最大正数,称为上溢
    • 两个负数相加,结果小于机器所 能表示的最小负数,称为下溢
  • 为了判断"溢出"是否发生,可采用两种检测的方法
    • 双符号位法 (变形补码法 / 模4补码)
    • 进位判断法 (单符号位法)

溢出的检测方法#

双符号法(变形补码法)

进位判断法

posted @   tree6x7  阅读(1450)  评论(0编辑  收藏  举报
编辑推荐:
· 一个奇形怪状的面试题:Bean中的CHM要不要加volatile?
· [.NET]调用本地 Deepseek 模型
· 一个费力不讨好的项目,让我损失了近一半的绩效!
· .NET Core 托管堆内存泄露/CPU异常的常见思路
· PostgreSQL 和 SQL Server 在统计信息维护中的关键差异
阅读排行:
· DeepSeek “源神”启动!「GitHub 热点速览」
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 我与微信审核的“相爱相杀”看个人小程序副业
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
· spring官宣接入deepseek,真的太香了~
点击右上角即可分享
微信分享提示
主题色彩