算法/最右面经分享

投的是算法工程 算法工程岗位。做的是 Ai infra。实际上是做大模型推理加速训练加速之类的优化框架， 没啥经验。1. 自我介绍2. 介绍一下自己第二段实习遇到的难点（就从算法和工程两块随便说了一点）3.C++指针和引用的区别4.STL 常用吗？ map 的具体实现懂吗？（红黑树，不过用 umap 更多，哈希表）5.那你介绍一下哈希表的常用实现方式。（就讲了一下拉链法， 桶，重哈希啥的）6. 智能指针了解吗？ 介绍一下7. 右值引用知道吗？移动语义介绍一下。8.transformer 的结构了解吗？介绍一下9.有了解过大模型的并行优化方式吗？（随便讲了一下模型并行 数据并行 流水线并行）10.那我现在一个 gpu 都放不下一层怎么办？（张量并行）11.那你知道张量并行怎么设计吗？就是矩阵之类的怎么拆？（这个不太了解了）12. deepspeed 和 megatronLM 有了解吗？（不太了解其实，只用过，什么 3D 并行13.flash attention 有了解吗？（大概讲了一下 QKV 中间状态不保存， 后向重新计算， 还有 softmax 分块计算）代码题字符串反转 to be or not to be 反转成 be to not or be to整体而言不难，但是主要是整体问的都比较底层和框架一点，其实都不太了解， 不知道面试官咋看。

【一面】1. word2vec的原理，skip-gram训练的具体流程，使用的损失函数，是怎么选择正负样本的，选择样本上有哪些优化算法，负采样的原理，还有哪些优化方法2. 贝叶斯调优，机器学习中有哪些优化参数的方法，为什么交叉熵会作为softmax结果的损失函数？梯度下降为什么有效，关于损失求一阶导数为什么有效？刚你提到了泰勒一阶展开，泰勒二阶展开有哪些相关的优化方法呢？3. SGD的原理，计算公式是什么，4. 在图的那个项目中担任了什么角色，做出了哪些贡献5. 介绍一下LSTM，seq2seq和transformer，介绍一下attention的原理6. Linux，bash这些有用过吗7. auc的计算方式（使用(FPR,TPR)算，排序公式去算），为什么这两种都可以计算出auc呢？它们之间有什么联系？然后就是使用sql写出auc的计算公式8. 有1000部电影，想要给人推荐，你有什么思路9. 手撕：接雨水，使用sql写auc【二面】1. cnn做bn的方式，rnn是怎么做的，bn的好处2. gpt和transformer的区别3. 机器学习中方差和偏差的理解4. bagging和boosting的区别5. 位置编码的理解，attention的理解6. transformer和rnn的区别7. lstm为什么可以缓解梯度消失8. 异构图，GCN，word2vec，fasttext，9. SGD和adam的区别，在DNN中分别适用于什么样的情形10. 用过哪些DNN模型，11. 贝叶斯在推荐中的应用12. bagging和boosting的方法有哪些13. 手撕：三数之和，柱状图中的最大矩形面积【三面】1. 会C和C++吗2. 数据结构的掌握程度3. 平常使用的技术栈有哪些4. 对推荐的了解5. 有哪些召回算法6. 对于推荐中排序的理解7. 排序算法，稳定性和时间复杂度8. 互联网每天都有很多用户搜索数据，在一天的日志中找到搜索频次最高的10个query，怎么实现（topk问题，使用堆）9. 堆排序稳定吗，时间复杂度（刚才在回答排序算法的时候，没有说到堆排序）10. 搜索的词条补全 是根据什么数据结构实现11. 现有的春招推进情况12. base地点倾向许愿许愿！！！

感觉大家都拿到offer了，还有哪些公司HC比较多，还可以投哪些公司的暑期实习有机会，谢谢各位大佬们 #我的求职思考#

这几天要签三方了  一直在犹豫 百度比小米总包高五万 各种福利又好非常非常多 base都在北京海淀  但是小米是数据开发 后面进去要求做后端开发和数据开发为主还要做一些算法的东西 感觉技术栈提升很多 但是就是没有啥后端的基础  [哭惹R]怕进去啥都不会 没有啥后端基础 想问一下大厂对校招生进去友好吗 百度是开发测试  进去golang和pythonmysql用的比较多 但是感觉开发测试跳槽没有数据开发有潜力  但是后面有在职考研打算 因为一战数学和政治英语考的还行 在职考感觉有机会 感觉开发测试在职考研更轻松 一直很犹豫  但是听说百度很多试用期不给转正   #offer选择