影石内推

面试是24年7月的现在已经入职几个月了，补一下面经，帮有需要的同学参考。BG：本硕985 计算机论文1A1B一面：技术面自我介绍 & 简历相关。简单介绍了自己在多模态和大模型方向的研究/工作经历，包括在校期间的论文工作以及实习经历。面试官主要针对简历上的项目提了一些细节问题，比如具体模型的量级，提升了多少，和哪些方法做了比较等。因为是自己的工作，所以没有卡壳。问有没有遇到过 Python 文件之间互相 import 的问题，出现这种问题怎么办？让我简单介绍了一下 PPO 算法，以及和 TRPO 的区别是什么？接着 PPO，问了一下 ChatGPT 的 RLHF 流程，以及为什么不直接用 SFT，而是要用强化这么麻烦的方式训练模型？继续追问 RLHF、SFT、LoRA 的区别，分别适用于什么场景？反问：公司现有业务是什么，计算资源情况等。二面：主管面论文介绍。让我用通俗的语言介绍我自己发表和投稿的论文，重点是研究动机和要解决的问题。问有没有亲手训练过大模型，最多用了多少张 GPU 卡？并行训练使用的框架是什么？介绍一下 DeepSpeed，说一下这个框架在并行的不同阶段（ZeRO stage）分别做了哪些事？训练模型的时候，数据量有多少，怎么收集数据的，训练花了多少时间？遇到的最大问题是什么？问在大模型全量微调时，显存消耗分别由哪些部分占用？（参数、梯度、优化器状态、激活信息等），分别占用多少？假设模型参数量为N，请分不同情况讨论和计算一下微调所需要的显存（不同精度、batch size、seq len 等）。说一下 LoRA 公式，讲一讲其中 A 和 B 两个矩阵分别表示什么。LoRA 的优缺点是什么，什么场景下适合使用？问知道哪些大模型训练和推理框架，用过哪些？问 LLaVA 的结构是什么，和常规的纯文本大模型有什么区别？Encoder-Decoder 结构的模型转 ONNX 的一般流程，遇到不支持的算子怎么办？可能遇到的问题（动态 shape、模型中逻辑判断需要单独写、模块拆分等）。三面：HR 面主要问了为什么选择公司，对团队的看法，对岗位的认识；未来大致的规划，面试过程的体验，有没有别的公司的 offer 等。以及询问了期望薪资等。之后就是等待，最终和期望薪资基本一致。总体感受面试流程比较顺畅，问题也比较贴合岗位要求；如果和岗位匹配度高，一般流程推进速度会很快。入职以后，工作内容和面试被问的问题也差不多，基本上都是算法工程师需要做的内容，团队氛围也很不错。只是毕竟是企业，不可能光搞研究，在承接业务时还是免不了和很多人打交道和来回battle需求，这个无可避免。

感谢影石捞捞！过了一个月终于收到了进度更新，这种感觉谁懂！秋招就这样起起落落。不过还是要对每一个面试都认真对待呀，offer来！！

国庆到了，对自己的秋招做个总结，3月开始投实习，被挂麻了，最后去了研究所实习。7月开始投递秋招，9月后投递就已经非常少了。bg:双非本2硕，主投岗位:嵌入式软件【lz只会linux】、驱动开发、有些C++的岗也会投。base地全国可飞，投的比较多的是江浙沪，深圳，西安投递:总数80左右，给面试的十几家，因为小鹏开的很早，所以一些中小厂基本就没投了！意向:海光信息（编译器）【很香】影石（驱动）            【薪资应该和海光差不多，或者略高】翱捷科技 （平台软件，应该是驱动）【965  wlb薪资低】小米（芯片驱动）【薪资不高】小鹏（模型部署，第一个oc，让我的秋招基本没有太大压力）【未谈薪，应该不会有前两个高】面试后挂:百度（二面挂）滴滴（一面挂）理想（一面挂）柏楚电子（技术面挂，做rtos的，不会）泡池子:复旦微电子汇川简历挂:太多了，蓝绿厂，智元，元戎启行，简历挂的大概30家左右，还有投了没后续的，华子，荣耀应该也都不会面了，国庆后应该就会签一个结束秋招，不耽误各位兄弟的机会了！！！祝各位兄弟找到自己心仪的offer。感悟:结合我的bg来看，已经很幸运能够在这个时间可以有选择结束秋招的机会。研究生入学给自己的目标是30w，现在已经圆满完成目标了。拿的这些offer除了小米基本都没手撕，今年还花了很多时间准备手撕。😂😂欢迎各位佬来和小弟交流！！！

秋招第n挂，我已然接受现实。到底什么样的bg才能得到offer啊！！！大半夜发现影石悄咪咪终止了…能不能发拒信啊喂我的求职精神状态大爆炸！