IEEE的浮点数表示

有时对IEEE的浮点数表达不明白.

在ms sql server中一个numberic (10,3)

存99.600时,在tds就发现有问题报错

 

severity: 4 | dberr: 20049 | oserr: 0
dberrstr: Data conversion resulted in overflow
oserrstr: Success

 

把值改了,改大199.600 心小60.632都没问题,

 

 

 

所以不解...

 

不知是不是也与TDS的封装有关

posted on 2012-09-06 16:35  Orz..  阅读(161)  评论(0编辑  收藏  举报

导航