小管

winner2009

   :: 首页  ::  ::  ::  :: 管理
例如设定单元格格式为数值,并保留小数点后2位,且:
A1=1111.00,
B1=5.5%,
C1=A1*B1=1111.00*5.5%=61.105(C1显示的数值应为61.11),
D1=0.8,
计算E1=C1*D1=?

计算机计算结果为:
E1=C1*D1=61.105*0.8=48.884(D1显示的数值应为48.88)
人为计算结果为:
E1=C1*D1=61.11*0.8=48.888(四舍五入取数为48.89)

不难看出计算机计算与人为计算的结果有时并不相等,这都是因为计算结果前一步所选取的数值精度不同造成。计算机缺省选取的是无限精度(哪怕是无限循环小数),但是显示出来的数据因为收格式显示,不可能显示出很长的数字串,因此人为计算时选取的是有限精度(通常选用精度为保留小数点后2位)。要解决此问题,可将计算机的计算精度重新调整为“以显示精度为准”,具体操作步骤为:
“工具”—“选项”—“重新计算”—勾选“以显示精度为准”
posted on 2010-03-15 10:06  管宇  阅读(98)  评论(0编辑  收藏  举报