计算机中浮点数存储的本质分析

浮点存储本质


目前计算机中多采用IEEE确定的浮点存储标准算法,核心原理为将浮点的整数用2的正指数来表达,小数用2的负指数来表达。

IEEE标准算法

  • 分为指数位+小数位,将整数的表达更压缩

  • float: 32位固定分配为1bit符号位,8bits指数位,23bits尾数位(注:不完全是小数)

  • double:64位固定分配为1bit符号位,11bits指数位,52bits尾数位(注:不完全是小数)

实例分析

总体过程

浮点存储总体过程如下图:

过程分析

基本流程如下图:

下面以19.625的float存储为例,逐条具体分析:

  • 整数转换,除2取余
    • 19直接转为二进制10011
  • 小数转换,乘2取整
    • 0.625等于1*2e-1+0*2e-2+1*2e-3,对应二进制:101
    • 0.625x2=1.25,取整1,1对应的权重是2e-1=0.5
    • 0.25x2=0.5,取整0,0对应的权重是2e-2=0.25
    • 0.5x2=1,取整1,1对应的权重是2e-3=0.125
    • 从前往后得到权重由大到小,所以二进制结果按顺序取得为101
  • 结果组合
    • 将整数部分和小数部分的二进制组合
    • 19.625对应10011.101
    • 注:以上流程本质与定点数相同,结果与Q26标的定点数相同
  • 科学计数法
    • 移动小数点到第1位有效位后面
    • 将10011.101表示为1.0011101*2e4,尾数部分(小数点后)中含有整数(粉色部分)和小数(蓝色部分)
  • 指数偏移
    • 做偏移,将2^4的指数4+127=131(10000011)
    • 采用+127偏移目的,是为了保证用无符号数,也能表示负数,比如8位的-127,偏移后就是0,从0开始映射-127(此处目的存疑)
  • 拼接组合
    • 科学计数:1.0011101*2e4
    • 指数部分:10000011
    • 尾数部分:0011101
    • 总体结果:0 - 10000011 - 0011101 - 00000000…
    • 组合原则:符号位 - 指数部分 - 尾数部分 - 不足补零

以上,具体展示了一个浮点数转换到计算机中的二进制存储过程,其他浮点转换依此类推。

参考资料


  1. 腾讯云:C语言浮点数float类型的秘密
全部评论

相关推荐

10-19 10:28
已编辑
西南石油大学 后端工程师
团孝子已上线feeling:面了很多家公司,能感受到目前只有小公司+外包喜欢问八股。大厂虽然也问八股,但是是从实习、项目中进行提问,并且大厂会问很深,面试官也会对你的回答进行思考➕追问,所以准备大厂面试前一定要备好相关资料。对于算法,我做的是codetop前100+力扣hot100+力扣高频150,面试中实感hot100就足够,基本上只要是hot100就秒答。对于项目和八股,我做的也是烂大街的星球项目,八股则是看小林和问ai,自己也写了很多技术博客和画了很多思维导图,并且自己也尝试用嘴巴说出来,不只停留于纸面。运气也很重要,必须要让面试官/HR看到简历才行,所以建议投递时间是下午两点。tl:第一岗位9.9 投递9.10 一面(一面评价:最近见过最强的大三,结束五分钟后约二面,都晚上九点了不下班吗)9.11 二面(三道算法a出两道,反问评价:经验不够等横向,我实习生要啥经验)9.21挂(实习时间过短+其他原因,想要一年实习的,为什么不招个正职)第二岗位10.10投递10.11约面(主管打电话,说看到我之前投递记录了想要我挂qa职进去干后端,同意)10.14 一面(无八股,主动说确实很强,意愿很强)10.16 oc其余,友邦,东软,东华,惠择,用友oc已拒京东测开一面挂(投后端被测开捞)腾讯测试已拒(投后端被测开捞)ps:表扬惠择的主管面,没怎么问技术(可能是一面面试官沟通过了),全程一起讲大道理,解答了心中很多疑惑,也告诉我以面试官角度来看怎么选候选人,如果可以下次一定选惠择
HeaoDng:美团好像可以触发一面通
点赞 评论 收藏
分享
迷茫的大四🐶:那你问他上班之后老实了没
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务