python的除法问题

0.15/0.05=2.9999999999999996
0.25/0.05=5.0
0.35/0.05=6.999999999999999
不太懂
全部评论
浮点数精度问题,不止py,其他语言也会有这种问题
点赞 回复 分享
发布于 2019-10-05 21:13
参考IEEE 754标准。简单说就是二进制表示不了某些数的精确值所以只能得到近似值,所以很多编程规范里面都会说不要对浮点数做相等运算
点赞 回复 分享
发布于 2019-10-05 23:30
python不背这个锅好吧……
点赞 回复 分享
发布于 2019-10-05 23:11
你都换成二进制算一遍看看
点赞 回复 分享
发布于 2019-10-05 21:19
内部用比特移位做的??
点赞 回复 分享
发布于 2019-10-05 21:06

相关推荐

06-18 15:03
重庆大学 运营
运营你豪哥:做一下被打的数据,分析输出优化建议
点赞 评论 收藏
分享
06-11 13:34
门头沟学院 C++
offe从四面八方来:我真的没时间陪你闹了
点赞 评论 收藏
分享
评论
点赞
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务