国内算法方向公司排名

25届毕业生入职某大厂三个月之前实习是做搜广推 没有接触过大模型最近业务需要转到大模型应用方向承认自己学习能力并不强 总是会陷入很多细节问题 比如维度对不上 transformer trainer的一些细节不知道等等 任务做的很慢用AI看代码它也并不能针对我的具体bug给出答案想问问各位佬怎么快速上手大模型的应用

1.自我介绍2.询问硕士方向，为什么测绘方向，去转大模型（请不要揭我的伤疤）？3.实习问题：做智能客服，为什么不使用rag？4.实习问题：人工客服和智能客服的区别？智能客服有什么问题？5.实习问题：说一下其中一个流程？6.实习问题：function call如何验证正确性7.实习问题：reward的数据哪里来的？8.实习问题：ppo解决什么问题？9.实习问题：ppo有优化吗10.实习问题：sft长尾问题是怎么解决的？数据如何构造的？漏了一个（ppo训练时，是否出现reward评分很高，但是无法完成任务的情况？如何解决的？）11.项目问题：为什么想做大模型推理？12.未来想做工程还是算法13.知道什么cv的大模型算法吗？（clip、sam）无手撕，主要问项目反问业务：主要做点云（各种方法，传统、深度学习、大模型都有）面了30min，面完赶紧去做携程笔试了

面试是24年7月的现在已经入职几个月了，补一下面经，帮有需要的同学参考。BG：本硕985 计算机论文1A1B一面：技术面自我介绍 & 简历相关。简单介绍了自己在多模态和大模型方向的研究/工作经历，包括在校期间的论文工作以及实习经历。面试官主要针对简历上的项目提了一些细节问题，比如具体模型的量级，提升了多少，和哪些方法做了比较等。因为是自己的工作，所以没有卡壳。问有没有遇到过 Python 文件之间互相 import 的问题，出现这种问题怎么办？让我简单介绍了一下 PPO 算法，以及和 TRPO 的区别是什么？接着 PPO，问了一下 ChatGPT 的 RLHF 流程，以及为什么不直接用 SFT，而是要用强化这么麻烦的方式训练模型？继续追问 RLHF、SFT、LoRA 的区别，分别适用于什么场景？反问：公司现有业务是什么，计算资源情况等。二面：主管面论文介绍。让我用通俗的语言介绍我自己发表和投稿的论文，重点是研究动机和要解决的问题。问有没有亲手训练过大模型，最多用了多少张 GPU 卡？并行训练使用的框架是什么？介绍一下 DeepSpeed，说一下这个框架在并行的不同阶段（ZeRO stage）分别做了哪些事？训练模型的时候，数据量有多少，怎么收集数据的，训练花了多少时间？遇到的最大问题是什么？问在大模型全量微调时，显存消耗分别由哪些部分占用？（参数、梯度、优化器状态、激活信息等），分别占用多少？假设模型参数量为N，请分不同情况讨论和计算一下微调所需要的显存（不同精度、batch size、seq len 等）。说一下 LoRA 公式，讲一讲其中 A 和 B 两个矩阵分别表示什么。LoRA 的优缺点是什么，什么场景下适合使用？问知道哪些大模型训练和推理框架，用过哪些？问 LLaVA 的结构是什么，和常规的纯文本大模型有什么区别？Encoder-Decoder 结构的模型转 ONNX 的一般流程，遇到不支持的算子怎么办？可能遇到的问题（动态 shape、模型中逻辑判断需要单独写、模块拆分等）。三面：HR 面主要问了为什么选择公司，对团队的看法，对岗位的认识；未来大致的规划，面试过程的体验，有没有别的公司的 offer 等。以及询问了期望薪资等。之后就是等待，最终和期望薪资基本一致。总体感受面试流程比较顺畅，问题也比较贴合岗位要求；如果和岗位匹配度高，一般流程推进速度会很快。入职以后，工作内容和面试被问的问题也差不多，基本上都是算法工程师需要做的内容，团队氛围也很不错。只是毕竟是企业，不可能光搞研究，在承接业务时还是免不了和很多人打交道和来回battle需求，这个无可避免。

稳了：主动介绍业务，或者问你对我们这边有什么想要了解的吗，多久能来，你更倾向于什么方向的工作，对你的未来工作方向有要求吗，后续的流程我也不太清楚，可能要看其他面试官的安排（这句话应该大家都能听出来啥意思😂）挂了： Ok，今天先到这边吧，应该很快就会有结果告诉你的，算法以后还是要多练，其实我觉得你表现的已经很不错了，但是……