C# 除法的小数点问题
在c#中除法默认不保留小数点,
decimal result = 100 / 1000; // result = 0;
需要保留小数点,可以如下
decimal result = 100m / 1000;
m代表decimal.
如果是变量要如何处理呢?这是需要用到Math.Round()
int x= 120;
int y= 100000;
decimal result = (decimal)x / y; // (decimal)x/ y 表示把 x 转换成decimal再做除法运算,int 除 int 是会丢失小数点的。
不过这样的小数点后面的数太多了,需要处理下,这时候需要Math.Round()
decimal result = Math.Round((decimal)x/ y,2); 后面的2表示保留小数点后2位小数
--------------------------------------------------------------------------------------------------------
在C#与法中,“/”除后所得的值的类型,跟他的除数和被除数的类型有关。如:
int a=4;
int b=5;
float c=a/b ;
则结果为0(因为会先进行int的除法操作,得出结果0,再将结果转为float 0;);
总之,得出的数都是整形的,最终发现原来除后所得的值的类型,跟他的除数和被除数的类型有关。所以,应写成:
float a=3;
float b=5;
float c=a/b;
这样,才能得出正确的结论!
在int里,2/5的结果就是0
又因为表达式(float num = 2/5)左边是float,而int可以隐式转换成float,所以,C#把0变成了float的:0.0
如果你要得到正确的结果,必须至少让等号右边的一个数为float:加个小数点,或者加上F:
2.0/5
或
2.0/5.0
或
2f / 5
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· 没有源码,如何修改代码逻辑?
· 分享4款.NET开源、免费、实用的商城系统
· 全程不用写代码,我用AI程序员写了一个飞机大战
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· 白话解读 Dapr 1.15:你的「微服务管家」又秀新绝活了
· 上周热点回顾(2.24-3.2)
2011-04-18 sql随机排序