1.场景:
数据要sum()求和,字段值有小数,当进行计算时,进行了四舍五入,导致计算错误。

1.1.模拟线上sql:期望值是1.5,但是结果为2,由此引发了问题

select sum(CAST(1.5 as DECIMAL)); //结果:2

1.2.扩展sql:

select CAST(1.5 as DECIMAL); //结果:2
select CAST(1.5 as DECIMAL(18, 2)); //结果:1.5
1
2
2.知识:

DECIMAL精度和小数位数的默认值分别是18与0。如果在decimal类型中不提供这两个值,那么默认四舍五入。

select CAST(1.5 as DECIMAL); //结果:2
select CAST(1.4 as DECIMAL); //结果:1

DECIMAL(18,2),精度和小数位数的设置是18和2。 如果超过了2位小数,则将超过的部分进行四舍五入,最后保留2位小数

select CAST(1.545 as DECIMAL(18, 2)); //结果:1.55
select CAST(1.452 as DECIMAL(18, 2)); //结果:1.45
————————————————
版权声明:本文为CSDN博主「沐风Cc」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。
原文链接:https://blog.csdn.net/mufeng633/article/details/116707986

Logo

为开发者提供学习成长、分享交流、生态实践、资源工具等服务,帮助开发者快速成长。

更多推荐