平头哥秋招内推

1. 全参数微调的显存一般怎么估算全参数微调的显存不能只看模型参数本身，真正上线训练时至少要把参数、梯度、优化器状态和激活值都算进去。最粗略的估算方式是：如果模型参数量是 N，训练精度是 bf16，那么参数大约占 2N 字节，梯度再来一份 2N，如果用 Adam，还要额外保存两组一阶和二阶矩，通常再加 4N + 4N 字节。也就是说，不考虑激活值时，单参数相关内存大致可以按 12N ~ 16N 字节估。真正把 batch size、sequence length、checkpointing、并行策略加进去后，激活值往往才是大头。所以面试里如果只答“参数量乘 2”基本不够。更稳的答法是先给出静态...

没必要在学校疯狂卷了

已经有一段实习了，但是年后投到现在至今0约面😭，是哪里出了问题啊，是双非学历问题还是简历问题啊😭😭求各位大佬指点一下

入职巨人快1年了，如果有人问我：“入职后最让你惊喜的是什么？”我的答案不是薪资，不是福利，而是我的导师。事情要从入职第一天说起。那天我怀着忐忑的心情走进工区，还没来得及找到自己的座位，就有人拍了拍我的肩膀。“你就是xxx吧？我是你导师，叫我xxx就行。”说实话，我当时挺懵的。我印象里的“导师”，应该是那种高高在上、偶尔指导两句的角色。但他完全不是这样。他直接把我带到工位上，递给我一张打印好的纸：“这是我给你列的入职首月计划，前两周熟悉框架，第三周开始跟需求。有什么不懂的，随时找我。”那张纸上密密麻麻写满了内容——技术栈清单、核心模块说明、常见问题FAQ，甚至连食堂哪家好吃、工卡怎么补办都写了。...