python的除法问题

0.15/0.05=2.9999999999999996
0.25/0.05=5.0
0.35/0.05=6.999999999999999
不太懂
全部评论
浮点数精度问题,不止py,其他语言也会有这种问题
点赞 回复 分享
发布于 2019-10-05 21:13
参考IEEE 754标准。简单说就是二进制表示不了某些数的精确值所以只能得到近似值,所以很多编程规范里面都会说不要对浮点数做相等运算
点赞 回复 分享
发布于 2019-10-05 23:30
python不背这个锅好吧……
点赞 回复 分享
发布于 2019-10-05 23:11
你都换成二进制算一遍看看
点赞 回复 分享
发布于 2019-10-05 21:19
内部用比特移位做的??
点赞 回复 分享
发布于 2019-10-05 21:06

相关推荐

重生我想学测开:嵌入式的问题,我准备入行京东外卖了
点赞 评论 收藏
分享
嵌入式小辣鸡:包装好一点,校内的奖项可以不用写,校内项目经历最后两点写的太差了,详细讲一下内容,名字变一下。只需要写项目实现了什么,自己在其中做了什么就好,查看图片
点赞 评论 收藏
分享
评论
点赞
1
分享

创作者周榜

更多
牛客网
牛客企业服务