精度问题

float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，由于它是不变的，故不能对精度造成影响。 

float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字； 

double：2^52 = 4503599627370496，一共16位，同理，double的精度为15~16位。 

#笔试题目#
全部评论
想到了float和double都是以二进制形式存储，所以在mysql中不会使用float或double来存钱这类金额的数据，直接decimal
点赞 回复
分享
发布于 2021-05-08 14:17

相关推荐

头像
收了我我就给光头充钱
04-18 12:46
已编辑
广州大学 电子信息类
腾砸，双非鼠鼠来啦！！！（月卡已充版
很神奇，一个多月的暑期流程寻找历程，起点和终点居然是一样的在牛客许愿果然超级有用，更新一下这段时间的Timeline0307投递tx安全技术，收到测评链接，开测0320小红书小程序投递，查不到任何进程，再无音讯0321接到通知，0325tx一面，结果发现岗位变成了运营开发，看着全栈的要求，陷入深深怀疑，如果会全栈了我还去搞安全干嘛，但还是开始框框准备0325一面，两个面试官，感觉一直被我愚蠢的回答逗笑，除了安全还问了很多八股和语言的问题，基本没准备八股和语言所以场面一度陷入尴尬，但是交流的过程还是很有趣的，也学习到了很多简历中没有深挖的点，0327查看已挂回到了测评步骤0326BOSS上联系的...
投递日志易等公司10个岗位 > 我的实习求职记录
点赞 评论 收藏
转发
头像
EvanderLiam
04-18 17:24
已编辑
广州大学 计算机类
小公司面试
就不对每个小公司单独发帖了，放在一起算了。 03.18 学校招聘会投的小公司，约的线下面，想着是目前为数不多的经验，就答应了。 上来先30分钟笔试，给的卷子题目非常基础--java基础，规律题，sql题。哼哧哼哧写完了，她那改卷又20分钟，因为MySQL题近期一直没练，反正感觉其他都挺不错的。再之后才面试。 先自我介绍，然后项目技术模块介绍，这些之前都准备了，所以背得感觉还可以。 面试官看了眼卷子，觉得做的不错。 然后，开始询问，了解公司吗，了解公司工位吗，是否接受调剂，所在籍贯，接受加班吗，意向薪资多少，是否接受低代码开发，是否接受两个月出省培训，是否接受培训后考核。 叭叭叭地讲了半天，简要...
点赞 评论 收藏
转发
头像
chenxi同学
04-02 12:18
西安邮电大学 计算机类
点赞 评论 收藏
转发
头像
CPT1024
04-07 20:26
门头沟学院 计算机类
点赞 评论 收藏
转发
头像
没班上咯
04-16 19:43
已编辑
华中科技大学 计算机类
点赞 评论 收藏
转发
2 2 评论
分享

招聘动态

查看更多

小红书

24届春招&25届实习生招聘

博乐游戏

24届春招&25届实习生招聘

24届春招硬件高薪职位集合

阅文集团2024春季校招

全站热榜

正在热议
# 牛客帮帮团来啦！有问必答 #
106785次浏览 2768人参与
# 你会选择考研还是直接就业 #
52804次浏览 595人参与
# 通信硬件人笔面经互助 #
35357次浏览 663人参与
# 联想求职进展汇总 #
29941次浏览 504人参与
# 如果校招重来我最想改变的是 #
64190次浏览 1322人参与
# 比亚迪求职进展汇总 #
106791次浏览 927人参与
# 23届的你们都什么时候入职？ #
68165次浏览 582人参与
# 高学历就一定能找到好工作吗？ #
5561次浏览 93人参与
# 非技术岗是怎么找实习的 #
58673次浏览 1213人参与
# 提前批和秋招有什么区别 #
22746次浏览 627人参与
# 工作两年想退休了 #
10942次浏览 105人参与
# 找不到好工作选择GAP真的丢人吗 #
6791次浏览 75人参与
# 你觉得通信/硬件有必要实习吗？ #
16657次浏览 367人参与
# 你遇到过哪些神仙同事 #
10685次浏览 183人参与
# 我的成功项目解析 #
62273次浏览 1767人参与
# 你觉得比亚迪今年还有春招吗？ #
25332次浏览 168人参与
# 小米求职进展汇总 #
25213次浏览 261人参与
# Offer比较，你最看重什么？ #
38860次浏览 402人参与
# 学历对求职的影响 #
106991次浏览 1182人参与
# 视觉/交互/设计百问百答 #
9311次浏览 270人参与
牛客网
牛客企业服务