鼠鼠破防瞬间

1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

目前0实习，想找中大厂的暑期实习和日常实习，目前进度hot100快刷完了，八股看了一多半（但很多感觉忘记了）。恳求大佬们给出一些建议和指导😸

修改了下简历，这两天投的也没啥面试，都是简历投递出去就不回复了

做网申助手之前，我们做过一个调研： 填一张网申表单平均要多久？ 收到的回答集中在 15-20 分钟。 按这个算——投30家 = 7.5 - 10 小时投50家 = 12.5 - 16 小时投100家 = 25 - 33 小时 这还不算信息填错要重填、填到一半崩溃放弃的那几家。 有个同学告诉我们，他投了60家，算下来光填表花了快15个小时。15个小时，够刷50道算法题，背两轮八股，或者多睡几个整觉。 【我们做了什么】 把重复信息录一次，之后自动填。 打开网申页面，点一下，姓名学校专业项目经历联系方式全部自动填好，你只需要检查开放题（自我介绍/为什么选我们要自己写）然后提交。 支持字节、腾讯、阿里...