简单小问题,哪种方式会输出0.00?

看完这篇文章,你将在程序员的生涯中又少走一个坑。

哪种方式会输出0.00?

今天在认真敲代码的时候,钉钉的图标突然跳动了起来。

肯定是哪个不长眼的同事来找我尬聊?没看到我在努力码字么?不知道我是个认真工作的人么?

我心里如是想着。

当我点开的时候,就更有兴趣了。



原来是我们的组长在我们小组群里提出了个小问题。作为下午甜点?

然后我就踊跃的发言了:第二个!

当时没有多想,就是觉得两行代码总归比一行代码靠谱v

那么我的猜测对不对呢?写个demo验证下

// 哪个BigDecimal对象会打印出来0.00? BigDecimal a = new BigDecimal("0").setScale(2, RoundingMode.HALF_EVEN);
BigDecimal b = new BigDecimal("0");
b.setScale(2, RoundingMode.HALF_EVEN);

System.out.println("a ---> " + a);
System.out.println("b ---> " + b);

然后,结果是显而易见的,我的回答是错误的,应该是方式1,难受。



为什么是第一种方式输出0.00!

知道结果去推测出现结果的原因永远比不知道结果去推测结果靠谱

那我们就来分析一下为什么?

有两个出发点去分析

  • 直接去看源码,看看setScale方法到底做了啥
  • 分析这两种方式有啥不同

看源码

果断点进setScale方法看起了源码,首先映入眼帘的是他的返回值,竟然是BigDecimal。所以这个方法返回的是原来的对象还是一个新的对象呢?带着这个疑问我继续往下看。



这时,一行代码瞬间消除了我的疑问!原来当新设置的小数位大于原来的小数位会重新创建一个BigDecimal并返回



越来越接近答案了,源码看完了,我们接着来分析下两种方式的不同。

两种方式有啥不同

首先两种方式分别对应着两个临时变量a和b,再结合上面分析的源码分析一下两种方式的不同之处。

临时变量a

BigDecimal a = new BigDecimal("0").setScale(2, RoundingMode.HALF_EVEN)
  • 先是创建了"0"的BigDecimal对象,假设为A1;

  • 然后对A1对象通过setScale方法设置小数保留位,这是产生了新的对象,假设为A2;

  • 最后是将A2对象赋值给临时变量a。

临时变量b

BigDecimal b = new BigDecimal("0");
b.setScale(2, RoundingMode.HALF_EVEN);
  • 先是创建了"0"的BigDecimal对象,假设为B1;

  • 然后是将B1对象赋值给临时变量b;

  • 接着对B1对象通过setScale方法设置小数保留位,这是产生了新的对象,假设为B2;

  • 但是临时变量b依旧指向的是B1对象,B2对象没有被任何临时变量接收。

综上所述,实际上打印的对象是不一样的,输出0.00的原因是,临时变量指向的是设置小数点保留位数后新生成的BigDecimal对象。

结语

虽然这是一个很简单的问题,但平时的使用中还是很容易被忽视的。而这个问题如果忽略了,可能就是一个大坑。因为既然使用了BigDecimal对象,基本上都是进行一些精度较高的运算,而精度较高的运算很可能就涉及到金钱了,如果出问题就是很大的问题。

#Java##程序员#
全部评论

相关推荐

头像
04-27 15:11
已编辑
华东师范大学 算法工程师
暑期实习从2月开始投,面了两个月,流程该挂的都挂完了,腾讯字节一共号称是1.7w个hc,不知道都发给谁了,估计今年秋招要难顶。Timeline米哈游、美团、蚂蚁、微软等公司直接简历挂穿,没进面。携程:3.3 投递、测评3.12 笔试3.18 一面3.25 二面4.13 ai面(hr面)4.14 英语测评4.23 offer(已拒)腾讯:2.6 测评2.28 wxg一面3.5 wxg二面(挂)3.11 teg一面3.21 teg二面(取消)3.31 teg一面4.10 teg二面(挂)4.21 wxg一面4.24 wxg二面(挂)字节:1.28 aml约面(取消)3.17 火山一面(挂)4.8 aml一面(挂)4.20 抖音data一面(挂)阿里:3.23 投递、测评3.28 笔试3.31 淘天一面4.8 钉钉一面4.9 淘天二面4.10 阿里控股一面4.12 钉钉二面(取消)4.15 淘天hr面4.16 淘天offer(已接)4.21 高德一面(取消)4.22 淘宝闪购一面(取消)面试最大的感触是,现在撞上ai转型,一堆老业务急着转向,新业务非常不成熟,研究型的组bar非常高根本进不去,业务侧挂着算法的岗位干的都是工程活,面试却又要问算法,另外agent的落地也远没有那么广,绝大多数还是那套写死的系统调一下llm api或者做做rag,其余少部分真的在搭agent的,基本不能在线上服务用什么很智能的模型,现阶段成本太高,进去大概率就是给垃圾模型从工程方面兜底,除了业务场景的应用和数据经验以外,技术方面很难有什么提升。算法岗做不了基模的还是去搜广推好,之前判断失误了完全没投,秋招不知道还进不进得去。
紫炁:一样的感受,现在很混乱尤其业务侧开发和算法界限模糊,不知道秋招投哪个方向了
我的求职进度条
点赞 评论 收藏
分享
牛客44320985...:你的当务之急是把这个糖的要死的沟槽ide主题改了
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务