python的除法问题

0.15/0.05=2.9999999999999996
0.25/0.05=5.0
0.35/0.05=6.999999999999999
不太懂
全部评论
浮点数精度问题,不止py,其他语言也会有这种问题
点赞 回复 分享
发布于 2019-10-05 21:13
参考IEEE 754标准。简单说就是二进制表示不了某些数的精确值所以只能得到近似值,所以很多编程规范里面都会说不要对浮点数做相等运算
点赞 回复 分享
发布于 2019-10-05 23:30
python不背这个锅好吧……
点赞 回复 分享
发布于 2019-10-05 23:11
你都换成二进制算一遍看看
点赞 回复 分享
发布于 2019-10-05 21:19
内部用比特移位做的??
点赞 回复 分享
发布于 2019-10-05 21:06

相关推荐

arbeilaite:我说话也跟你一样
点赞 评论 收藏
分享
苍蓝星上艾露:这简历。。。可以试试我写的开源简历优化工具https://github.com/weicanie/prisma-ai
点赞 评论 收藏
分享
07-30 11:27
门头沟学院 Java
点赞 评论 收藏
分享
评论
点赞
1
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务