关于postgresql中numeric和decimal的精度和标度问题
精度即数的有效数字个数
2.5的有效数字个数是2,但是053.2的有效数字个数是3
标度是小数点的位数
例如numeric(2,1),即这个数必须是两位,并且小数后面最多有一位,多出来的小数会被四舍五入
可以很容易的确定出numeric的范围,即-10(精度-标度)到10(精度-标度)次方之间,不包括两头
create table test (num numeric(2,1));
insert into test values (2.2);
----------------输出------------------------
num
-----
2.2
-------------------------------------------
insert into test values (2.26);
----------------输出------------------------
num
-----
2.3
-------------------------------------------
insert into test values (10);
----------------输出------------------------
ERROR: numeric field overflow
DETAIL: A field with precision 2, scale 1 must round to an absolute value less than 10^1.
-------------------------------------------
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· 单线程的Redis速度为什么快?
· SQL Server 2025 AI相关能力初探
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
· 展开说说关于C#中ORM框架的用法!