1.为什么要用 decoder架构 为什么不用甬encoder-decoder(每次被问到回答不太好，onerec v1用的e-d，v2用了gqaattention的decoder，flops才降很多没用的反而flops超高，所以也不好说decoder only能节省计算资源)2.输入是什么样的?会不会出现序列长度很长的问题3.ra vae四层码本能否确保唯一性?训练过程有没有出现码本坍塌(每次我会说rqvae是其他团队训练的但是还是会问我训练细节，只能说一些理论上我知道的)4.dpo loss是怎么优化的为什么不用ppo5.原始的多模态表征和id表征是怎么联合训练的 表征的参数是更新的吗6.预训练阶段的两个loss是什么7.是怎么解决收敛速度不一致这个问题的代码题给一个先升序再降序的数组，求最大值的下标

1.实习项目介绍2.手撕权重采样 ，没想出来就换了个题，最长连续子数组3.机器学习八股4.介绍论文+项目5.拷打八股：6.评估模型的指标（分类任务、回归任务）7.过拟合了解吗？8.L1/L2的区别？为什么会有影响，从数学的原理讲一下？9.特征选择了解吗？10.激活函数（sigmoid、relu）了解吗？11.损失函数的优缺点、损失函数了解多少？12.微调方法了解多少？硬面1小时反问：

一、少量八股1.介绍下self-attention，计算其时间复杂度。2.为什么要用multi-head attention？3.kv cache是什么？它为什么能极大地提升推理速度？4.PPO的clip机制？在线强化学习和离线强化学习有什么区别？RLHF是哪一种？5.为什么要用reference model?为了解决什么问题？二、项目深挖1.如何让多个agent协同工作的？举个具体的协同机制例子。2.如果一个agent误判导致策略冲突，如何处理？3.你们有没有用到类似AutoGen或LangChain的框架？为什么选这个框架？4.你是怎么设计agent的记忆系统？5.长期记忆如何存储？如果历史记录量非常大，怎么优化查询效率？6.有没有做记忆衰退，避免旧数据干扰新任务？7.你们这种模块堆叠的架构是怎么设计视觉问答模块和动作模块的协同逻辑的？8.你简历里的人机协作流程，具体是什么意思？怎么设计人工干预与agent自动处理的平衡？9.human feedback是怎么被agent消化吸收的？有没有用rl进行策略更新？三、业务理解1.有没有做过模型压缩？比如在车载端或低端设备上的推理加速？2.如果量化后理解能力下降怎么办？怎么做精度补偿？3.你怎么处理响应速度与推理精度之间的tradeoff？是先召回再精排，还是单次生成？4.如果要做电商agent，你会选择哪些模态的信息作为输入？比如文本评论、图像、视频、购买记录？5.有没有做过A/B测试？

一面/二面 压力都不大，只有一些八股值得参考：1.交叉熵损失的物理含义是什么？2.KL散度的本质是什么？3.用什么loss比较多？我说一般就mse，又通过focal loss，让我接着介绍，如何平衡正负样本。三面，我以为轻松了结果是最硬核的技术面，问了一堆八股，并且要求现写公式，不到最后都不能放松警惕啊：1.讲讲python的dict底层是怎么实现的？hash实现2.如何解决hash碰撞？说了个线性探测（其他真不记得了）3.C++的STL还熟悉吗？完全不会，3年没写了。4.好吧那不问了，flash-attention了解吗，讲讲原理？5.kv cache了解吗？6.Q要cache吗？7.讲讲常见的标准化，LayerNorm，RMSNorm？8.实际应用你觉得什么区别吗，现在哪个用的多？9.问了这么多才开始讲项目，等我讲完面试官直接总结，你的项目是在高维特征添加了一些low-level的视觉信息做work，现在有个开放的问题想问你：大模型的语料是有限的，但是搜推链路上token可能是无限的，比如可能一个蛋糕，每个用户的每一次蛋糕购买记录都是独立的，蛋糕1，2...100，你要如何解决？10.似乎我没理解对，追问不对不是这个意思，重新问：大模型的数据是非常多的，但是搜推的数据可能很高维度而且不多，比如用户看到图->点击右上角->再点到推荐购买->.......，整个特征链路非常长，这种数据量不像大模型训有非常丰富的语料，你如何解决这个训练问题？

40min 1.项目的日志解析分析，这里面你用了爬虫，是为了解决什么问题?你用一两句话表达一下你的爬虫能力深度，以及处理过的最复杂的问题是什么样的?像一些登录验证码、APP相关的爬虫有没有处理过?2.请描述一下实习的问题和产品需求，以及过程中遇到的技术难题和解决方法?3.你可以举一个例子说明用户一般会怎么问、你们怎么解答吗?意图识别的类别是什么，怎么设计的?4.意图识别模型的处理类型总共有哪些?5.若问“现在美国总统是谁”这种无关的问题，会归类到什么类别?6.要进一步提升意图识别的准确率，你的思路是什么?7.实习的项目中你是什么角色?是主导还是配合?这些优化思路是领导给的还是你自己的?8.你做的这些项目里面，有哪一些是你自己主导的且有成就感的事情?还有其他比较有成就感的事情吗?9.除了mem0框架之外，还有没有别的开源框架你做过选型工作?mem0的代码你有看完吗?它的本质是什么?有了解过像一些信息的提升、总结、洞察相关的东西吗?10.谈谈你对Transformer架构的理解，以及它的实现方式?11.Transformer的编码器和解码器的处理过程以及它们的区别是什么?12.编码器和解码器的实际应用场景有什么区别?13.你实际工作当中，在不同应用场景下选择编码器或解码器的决策理解，有没有结合工作说明?14.你是怎么理解大模型涌现的?用什么方式可以促生这种有益的涌现?请再详细讲一下这些方式?

一面 1、自我介绍2、详细聊了在百度半年的实习干了什么，为什么选择产品部去实习3、详细聊了在百度产出的这一篇A会，自己的贡献是怎么样的?4、详细聊了自己的科研方向:大模型推理的框架，包括底层的架构，硬件的架构(感觉面试官真什么都能问的出)5、八股没怎么问，问的都是论文中的细节，为什么选择该模型，为什么不用剪枝量化去优化推理你的方法比这些方法好在什么地方，文章的idea是如何产生和实现的，包括代码的编写是基于别人的base改的?还是全自己写的?为什么没有考虑实用场景等等 总体来说是问的简历，还是比较好回答6、手撕tokenizer(可能是因为我在回答问题的时候说 代码都全自己写的把 直接让手撕了tokenize二面1、自我介绍2、问为什么没在部门转正?为什么不投自己的实习部门?3、开始聊在百度产出的这篇文章，她说她看过这篇文章，我谢谢您，开始在线解答面试官的疑惑全程一个审稿人状态开始提问;为什么你们只用了小模型，不用大模型，是你们的实验数据有问题?包括后期问能不能落地？4、代码，接雨水5、反问

希望一出生耳畔就萦绕着母亲敲击键盘调试模型的清脆声响，她的指尖在机械键盘上飞舞，仿佛在训练一首永不收敛的智能协奏曲。空气里混杂着熬夜跑实验时手冲咖啡的醇香和打印出来的论文草稿的淡淡墨味，被做了十年首席算法官的父亲，用因长期敲代码分析数据结构而微弯却异常温柔的手指轻轻托住我。搬进实验室隔壁那间总是亮着代码编辑器荧光的小公寓时，正听见退休的算法元老爷爷爽朗的笑声。他说我舞动的小手，让他想起当年上线核心模型时在触摸屏上调试参数的节奏，那条被顶会收录的“最具创新性算法”，至今还保存在他的GitHub首页。刚整理完年度技术文档的奶奶，放下更新到第三版的深度学习手册，从项目负责人手中接过我，用那支标记了无...

听说牛客许愿很灵虾皮算法岗目前HR面已通过，许愿一个OC成功后必分享面经

看到这图有点绷不住

滴滴算法投哪个部门好点，求老哥给点建议

好多企业都开了，是不是形式变好了

今年秋招的offer到底都是谁在拿啊谁能告诉我该怎么摆正心态

华为算法哪个部门好？

一志愿挂推了二志愿周一通知测评但现在还没收到测评链接😰这是挂了？