介绍自己的一篇论文八股：为什么在你的论文中选择deeplab v3+作为backbone，它相比于之前的版本有哪些改进，它与其他语义分割网络（例如U-net）有什么结构上和思想上的异同点；LoRA的初始化为什么降维用高斯初始化、升维用零初始化；diffusion的训练和测试流程，为什么要多步采样而不能一步则预测出噪声并得到图像。手撕：MHA、ASPP（deeplab v3+）

手撕：一道简单的python字典操作+完全平方数详细介绍一篇自己的论文；八股：diffusion的采样逻辑，为什么要在每一步采样的时候添加一个噪声项；介绍一下SD；Lora的训练和推理过程有什么区别？总体聊得比较好，一面直接offer。

🔞 熊厂🧑‍🔧 大模型web端应用算法实习😶‍🌫️ 自我介绍+项目提问+手撕忘记录音了，就简单回忆一下吧1. 自我介绍2. 拷打项目3. 当前有哪些比较好的多模态模型4. 介绍一下TF-IDF5. deepseek V3&R1的区别6. 投机解码7. MoE有哪些缺点8. 介绍一下dp、pp、tp9. 代码：两个有序链表合并反问：工作内容；对我有什么建议。他们似乎更看重对RAG的相关技术的考察，毕竟是搜索算法岗，可惜我并不非常清楚。可能因为我参与大模型项目的时间比较短吧，很多专业名词及其英文简称我都不熟悉，这一点还挺尴尬的。整体下来感觉还不错，最后面试官问我实习时间和是否能担任其对应的工作内容（of course！）。

🔞 中电信🧑‍🔧 语义大模型算法实习😶‍🌫️ 自我介绍+项目提问+手撕1. 自我介绍（问了一些个人问题）2. 论文提问：弱监督的概念；KL散度的概念、公式、数值范围、以及在语义大模型中有何应用。3. 项目提问：由于我用的是mindspore，问了一些mindspore相关的知识；LoRA的原理，以及通常加在哪些层；qwen2的训练流程。4. 代码：快排反问：工作内容？对我有什么建议？中规中矩的一次面试，没有问很深的内容，后面代码手撕本来用的是本地IDE共享屏幕，面试官看见我有AI自动补全，干脆直接在leetcode上找了个排序题给我。。。

写在前面：年度最差体验面试已经诞生了，不知道这算不算压力面，与一面形成了强烈的反差！本来不想记录，但情绪平复之后想想还是有一些比较细节的知识点可以记一记，就挑一些想记的记一下吧。🔞 ***🧑‍🔧 算法开发实习😶‍🌫️ 自我介绍+项目提问+手撕1. 自我介绍2. 论文介绍；deeplab v3+的网络结构；讲讲aspp中的空洞卷积；KL散度的公式（人在无语的时候真的会笑，这个公式我写过多少遍都数不清了，他竟然说我说反了，结果讲出来跟我讲的一模一样，幸好我有录音，好吧暂且认为是没听清，精彩的还在后面）。3. 项目介绍；数据处理时的question长-answer短的问题有没有特殊处理；LoRA原理（这里我不知道是在否定我说的还是做个补充，反馈感很差）；BF16和FP16的区别（我一开始说对了它们的大体区别，但具体的位数分配我记不清了，然后他就开始类似于“你确定？”这样问，然后我就开始怀疑自己是不是说错了）。4. 之前的语言模型大体分为哪几个架构？为什么现在都用decoder-only架构了？（decoder-only的attention结构是一个满秩的矩阵，长距离建模能力强）5. 对于语言生成和图片生成问题有什么理解？diffusion原理；为什么多步采样（1000步而不是50步）；SD中text-encoder信息是怎么注入到主干模型里面的；绝对位置编码和旋转位置编码的原理和区别。6. 手撕MHA（这里我实现之后，他先是说我输入x的维度不对，然后说应该是先分头再linear，但我事后确认我写的确实没啥问题啊，搞不懂）反问：感觉应该是过不了，所以就问了问对我有什么建议。感觉还是对一些基础知识掌握不够牢固，导致面对面试官的质疑不能很确切地坚持自己的想法。抱怨无用，唯有强大自己，后面的面试加油吧🫡

🔞 美甲🧑‍🔧 语音算法实习生😶‍🌫️ 项目提问+基础理解+代码1. 自我介绍2. 介绍自己的论文（问得好细，质疑创新点、消融实验，一开始我的说法有点问题，面试官会揪着不放，幸好后面解释了一波）3. 你觉得当下的大模型相对于之前初代的bert等模型主要解决了什么样的问题？从原理上来讲，为什么现代大模型在生成式任务的能力要强于以前的MLM类的大模型？4. 现在大模型为了达到规模扩增，主要做了哪些技术上的优化？旋转位置编码相比于绝对位置编码好在哪儿？为什么不用绝对位置编码？5. 谈谈为什么MoE机制会成为主流？如何解决MoE训练过程中出现的路由偏爱（路由失效）现象？负载均衡是作用在什么上面的（模型 or token）？6. 代码：删除单向链表中的倒数第二个元素。反问：日常工作内容？对我有什么建议？这次面试与一面有很大不同，削弱了硬性八股的内容，更偏向于考核对大模型的理解。面试官也是蛮随和的人，每回答一个问题会及时给到我反馈，认可or纠正我的回答，这使得整个面试过程都有一个积极的刺激。最后说我对大模型的直觉挺到位的，我还挺开心的🥰

🔞 商汤🧑‍🔧 算法开发工程师实习生😶‍🌫️ 项目提问1. 自我介绍2. 面试官问我是否知道他们的JD（感觉像是在怀疑我是否跟他们匹配）3. 自己的论文介绍；每个创新点的详细解释。4. 项目介绍；有没有想过如何获取高质量数据以及如何使用；有没有多个LoRA微调的经验（完全没有，这里跟她探讨了很久）；LoRA的原理；介绍一下PPO、GRPO。5. 如何将文生图、视频与强化学习结合（这里又聊了好久）反问：面试时间要求哇，终于是温柔小姐姐面我了🤩这次面试是这几次以来感受最好的！全程没有死板的八股和无情的诘问，只有和善的沟通，明显感觉自己慢慢放松下来。中间基本上都是聊天的状态，面试官全程都在引导话题，会尽量避开我的薄弱点。真心希望世界多一些这样的姐姐，将会变成美好的人间~（太舒服了，以至于忘记问面试结果怎么反馈给我了）

🔞 熊厂🧑‍🔧 大模型web端应用（算法岗，偏业务）😶‍🌫️ 项目提问1. 自我介绍2. 介绍项目3. 数据集是如何处理和制作的？4. 如果要做一个RAG的问答系统，请你设计系统模块。5. 手撕编辑距离（二维动态规划）反问：主营业务？我的工作？实习时间要求？面试时间只有半个小时，所以没问很多内容，面试官一上来先自我介绍，感觉很随和，后面还展示百度的web端AI产品，整个过程也很愉快。（面试官还对我的代码中冗余的部分进行了指导）

🔞 美甲🧑‍🔧 语音算法实习😶‍🌫️ 项目提问+八股1. 自我介绍2. 介绍一下简历上的大模型项目；讲一讲如何做数据清理的；角色知识增强是怎么做的；推理阶段有无优化；有没有最新的改进。3. 介绍一下现在的研究方向以及论文。（主要听听思路，由于我说借鉴了RLHF的思路，借机问了一下RLHF的技术框架）4. LoRA的原理；RLHF的细节（要求更细致的介绍，这里问了一个我不是很理解的问题，除了reward model和llm，还用到了什么模型？之后查了一下确实就这两个啊）5. 手撕MHA（pytorch）；GQA的原理。6. 输入的padding部分是如何参与计算的；为什么用left padding而不是right padding。7. 让大模型确保输出json格式有什么办法？8. 介绍一下softmax的数值溢出，以及有什么办法解决。反问：主要业务是什么；实习时间的要求。感觉比之前面试状态要好很多，回答还是比较流畅。同时，这次发现了一些之前没复习到的地方，回去一定补。

🔞 理想🧑‍🔧 大模型算法岗实习😶‍🌫️ 项目提问1. 介绍自己的论文（针对论文提了巨多问题，创新点、如何想到这个思路的、借鉴了什么、实验效果怎么样）2. 介绍自己的大模型项目3. 数据集的语料量级；如何判断数据集的质量；有没有验证数据质量的过程；数据不对等会不会导致推理效果不佳；如何进行数据清洗的。4. 模型选型时是如何判断的？还有其他基础模型比较了解吗？介绍一下deepseek-v3和R1；介绍一下强化学习；强化学习中比较常用的算法。5. 然后就是针对业务相关的提问：对话系统（开始摆烂，听介绍）6. 了解Agent吗？7. 项目中在微调中调用了诸如web工具等方法补充语料吗？8. 未来职业规划；现在常用的图像特征提取方法；图像理解方面有了解过吗？（clip、blip）介绍他们的团队，更专注于技术，通用模型能力优化。反问：常规面试官懂得好多，大部分问的问题比较宏观，可惜我的知识面没那么广🫠

🔞 网易有道🧑‍🔧 大模型算法岗实习😶‍🌫️ 自我介绍+项目提问+手撕1. 介绍自己的大模型项目2. 数据集的制作和处理？有没有数据清理和筛选？数据总量被均分到每个角色上会不会有点少？对于数据分布不均衡的处理方式是什么？3. 模型选的是什么基座？基座规模有过筛选吗？4. LoRA微调的原理；LoRA微调与全量微调相比有什么不同？有试过全量微调吗？sft阶段的数据集格式？system prompt是如何设计的？5. 如何评价微调的效果？有没有对比微调之前的效果？模型推理采样过程的各种参数（top-p、top-k、temp），温度参数如何起作用（代码简单实现）。6. 对前沿技术的发展有何看法（deepseek、长思维链）。7. 讲讲RLHF。8. 项目中RAG是如何做的？代码：进房间拿钥匙（遍历，简单粗暴）+python输入的处理反问：岗位的日常工作、研究或产品第一次实习面试确实有点紧张，回答得磕磕巴巴🤐，面试官很和蔼，中间不会的地方还会提醒，不至于让我太尴尬。。。总的来说，作为第一次得体验还是挺满意的，下次还来😘

#include <stack> class Solution { public: /** * 代码中的类名、方法名、参数名已经指定，请勿修改，直接返回方法规定的值即可 * * * @param tokens string字符串vector * @return int整型 */ void calculate(stack<int>& sk, string symbol) { int num1 = sk.top(); sk.pop(); int num2 = sk.top(); sk.pop(); if (symbol == "+") { sk....

static const auto __ = [] { std::ios::sync_with_stdio(false); std::cin.tie(nullptr); return nullptr; } (); struct cell { int count{1}; //调用次数 int key; int value; cell(int k, int v): key(k), value(v) {} cell(const cell& c) = default; }; class lfu { private: unordered_map<int, list<cell>:...

哈希表：利用查找O(1)特性，用于记录key对应的键值对在链表中的位置，用指针表示。双向链表：利用插入和删除操作的O(1)特性。用于模拟缓存，当哈希表给出了操作的位置，就可以直接调整链表结点的指针从而实现O(1)的插入和删除。 class Solution { private: int capacity; unordered_map<int, list<pair<int, int>>::iterator> hash; //{key=iterator} list<pair<int, int>> cache; //{"1&quo...