百川智能 校招 面经

投的是算法工程 算法工程岗位。做的是 Ai infra。实际上是做大模型推理加速训练加速之类的优化框架， 没啥经验。1. 自我介绍2. 介绍一下自己第二段实习遇到的难点（就从算法和工程两块随便说了一点）3.C++指针和引用的区别4.STL 常用吗？ map 的具体实现懂吗？（红黑树，不过用 umap 更多，哈希表）5.那你介绍一下哈希表的常用实现方式。（就讲了一下拉链法， 桶，重哈希啥的）6. 智能指针了解吗？ 介绍一下7. 右值引用知道吗？移动语义介绍一下。8.transformer 的结构了解吗？介绍一下9.有了解过大模型的并行优化方式吗？（随便讲了一下模型并行 数据并行 流水线并行）10.那我现在一个 gpu 都放不下一层怎么办？（张量并行）11.那你知道张量并行怎么设计吗？就是矩阵之类的怎么拆？（这个不太了解了）12. deepspeed 和 megatronLM 有了解吗？（不太了解其实，只用过，什么 3D 并行13.flash attention 有了解吗？（大概讲了一下 QKV 中间状态不保存， 后向重新计算， 还有 softmax 分块计算）代码题字符串反转 to be or not to be 反转成 be to not or be to整体而言不难，但是主要是整体问的都比较底层和框架一点，其实都不太了解， 不知道面试官咋看。

一共两面，今天是第二面。都比较基础，面试官很nice1.自我介绍2.毕业论文，发表情况，大论文情况，介绍大论文的实验3.未来职业规划，打算做哪方面的内容4.样本不均衡从哪些方面来解决？5.介绍transformer6.cv中的位置编码和nlp中的位置编码有什么区别？（nlp可能对位置编码更严格些，因为文本次序，而图像有归一不变性）7.比较两个实例图的相似度，你有什么解决方法吗？8.读研给你带来了什么成长吗？9.最后面试官介绍了他们做的相关方向（推荐,cv,nlp） #牛客解忧铺#  #牛客在线求职答疑中心#  #春招#  #算法#

后摩智能实习，线下面试自我介绍梯度下降，怎么求导，链式求导relu激活函数，0点怎么求导softmax实现，溢出问题问给我发过来让我学习的量化相关的论文，adaquant，i-vit答的都不好，说不没认真看，大三学生都比我学的好，还做了ppt来讲。都好卷，呜呜呜。面试官人很好，但我太菜了基本忘关了，都没答上来，细节基本都说不清楚，只能懂个大概。后面还是要把基础知识和项目细节好好的准备好。

小米    一面        1. 介绍Fastllm.cpp的技术细节        2.PageAttention的作用            3.flashAttention的算法流程        4.量化的原理        年前面的，大概是这些的    二面        介绍了一个项目，然后没有如何八股    hr面        聊期望薪资以及手里有那些意向oc小米的面试体验很好，尤其是一面面试官聊一下关于这个方向怎么去学的事情，十分舒服的。#金三银四，你有感觉到吗#