关于postgresql中numeric和decimal的精度和标度问题

精度即数的有效数字个数

2.5的有效数字个数是2,但是053.2的有效数字个数是3

标度是小数点的位数

例如numeric(2,1),即这个数必须是两位,并且小数后面最多有一位,多出来的小数会被四舍五入

可以很容易的确定出numeric的范围,即-10(精度-标度)到10(精度-标度)次方之间,不包括两头

create table test (num numeric(2,1));
insert into test values (2.2);
----------------输出------------------------
 num 
-----
 2.2
-------------------------------------------
insert into test values (2.26);
----------------输出------------------------
 num 
-----
 2.3
-------------------------------------------
insert into test values (10);
----------------输出------------------------
ERROR:  numeric field overflow
DETAIL:  A field with precision 2, scale 1 must round to an absolute value less than 10^1.
-------------------------------------------
posted @   monkey6  阅读(13957)  评论(0编辑  收藏  举报
编辑推荐:
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
阅读排行:
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· 单线程的Redis速度为什么快?
· SQL Server 2025 AI相关能力初探
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
· 展开说说关于C#中ORM框架的用法!
点击右上角即可分享
微信分享提示