整体面试还是不错的，但是没后续了...1、项目介绍2、Transformer结构理解请详细说明Transformer的整体架构及其核心组成部分。3、Attention机制问题为什么Attention公式中要除以√dk？这个操作有什么作用？Transformer训练过程中为什么容易出现梯度消失或爆炸问题？4、SFT实践问题在监督微调(SFT)过程中遇到过哪些典型问题？请分享您的解决方案和实践经验。5、领域数据配比问题在构建领域大模型时，如何确定不同领域数据的配比比例？有哪些考量因素？6、Decoder-only架构问题为什么当前主流LLM都采用Decoder-only架构？这种结构相比Encoder-Decoder有哪些优势？7、优化器相关问题ADAM优化器相比SGD有哪些改进？请简要说明梯度下降的原理ADAM是如何在SGD基础上进行优化的？8、代码题给定一个元素互不相同的整数数组nums，编写函数返回其所有可能的子集（幂集）。示例：输入：nums = [1,2,3]输出：[[],[1],[2],[3],[1,2],[1,3],[2,3],[1,2,3]]

中国交易与广告部门面试官人很好问实习20min左右两个项目依然没咋问就问一两句 是不是一看就是网上找的感觉无八股最后一道手撕 分糖果10min 没写出来 GG菜就多练 还得沉淀

感觉好难啊..还是得练1.实习介绍2.聊了10多分钟项目3.RPC是在哪一层中?路由器是在哪一层4.解释一下java中的controller是起什么作用?5.vue2和vue3分别是怎么实现数据-视图双向绑定的?6.node.js和python的并发有什么区别?node 的async/await和python的asyncio库有什么区别?7.讲一下协程8.算法题2道，30min，第一道是纯英文题(太难蚌了)，第二道是一个中文题，是关于把一个json object数组(类似于[{"id":1"value":123}{"id":2"value":1234"parent":1}]这 样的)转换成一个树状结构并输出，并且要求能处理各种错误输入。两题均不是力扣题9.反问

全程 50 多分钟，没有八股环节，不过算法题发挥得不好，结果基本也就可以预期了。继续打磨短板，踏实提升自己1️⃣ 项目介绍2️⃣ 论文拷打3️⃣ 实习经历拷打4️⃣ 手撕1. 论文里面核心几个步骤的算法，可以写伪代码2. 一道算法题，结束后查到是Leetcode 2327，在面试紧张的状态下很难思考，被提示用DP，后面又提示了几次勉强过了测试样例5️⃣ 反问

1️⃣实习介绍2️⃣基础知识问答——八股1. 详细描述，如果给一个txt存储的文本，从预处理到SFT的训练流程，要包括对数据的预处理、tokenize、forward、loss计算、参数更新，越细越好2. tokenizer怎么做的，有哪些tokenizer的实现方式3. embedding怎么做的，从id到embedding有哪些实现方式4. transformer八股transformer的forward计算包含哪些部件如何解决梯度消失和梯度爆炸的非线性由什么来提供3️⃣项目经历1. 介绍自己最熟悉的一个项目，项目中做了什么2. 一些对项目细节的提问3. 这个项目的意义4. 后续打算做什么4️⃣手撕：用numpy，写MHA5️⃣反问环节

感觉是项目经历太浅太少了，寒假沉淀沉淀年后再战吧...1. 实习介绍2. 项目深挖3. RAG的问题与改进方案4. 在不能修改模型的情况下，如何调整模型回复风格5. 为什么大模型有few-shot能力？讲一下few-shot能力的原理6. PPO、DPO、GRPO、DAPO等RL算法的原理和区别7. 平时是否使用vibe coding？对此有什么看法？8. 手撕代码：编辑距离，分析写法的时空复杂度，有什么更优的写法

1. 实习介绍2. 项目拷打3. 标准RAG有什么问题？4. 了解Agent吗？把RAG做成Agent有什么好处5. 说一下LoRA的原理；LoRA完推理的时候要挂着Adaptor吗？6. 手撕代码：torch写SFT的loss计算代码（注意shift right）面试官对技术了解很深入，问得都是技术细节，感觉比我自己更了解我的项目，给我面没招了...

📍面试公司：字节🕐面试时间：2.4💻面试岗位：后端❓面试问题：1.吹了十分钟的牛2.随便问了下实习，问了下如何量化和反馈学习以及写提示词3.java的常见集合和用途4.Object的方法有哪些5.自定义对象的hashcode是怎么算出来的6.为什么要保证equal和hashcode一致7.列举设计模式和其实际应用8.双亲委派是什么，目的是什么9.mvcc的实现原理10.索引失效的场景11.EXPLAIN怎么用，要研究哪些参数12.Redis过期淘汰清理实现原理13.Redis高性能原理手撕：LRU反问🙌面试感想：感觉应该没啥问题，面试官说很满意，没什么问题，说待会帮我去催HR....求求了给我offer我什么都会做的求求了给我offer我什么都会做的求求了给我offer我什么都会做的求求了给我offer我什么都会做的求求了给我offer我什么都会做的求求了给我offer我什么都会做的求求了给我offer我什么都会做的求求了给我offer我什么都会做的更新：三面过了，还在决定要不要hr面，应该稳了,吧...更新：offer审批了，这不能给我出个幺蛾子吧😭

字节抖音风控部门大模型算法一面1.自我介绍（论文、实习、项目）2.拷打项目（问的很细，占据主要面试时间）3.实习介绍4.讲讲dpo与kto的区别5.grpo的非规则奖励如何设计6.两道medium力扣

1. 项目和八股介绍一下你做的这个项目为什么没有用 nsp，只用了 mlm分析一下transformer训练过程中显存占用和计算复杂度- 优化器 参数 梯度- 面试官说到：激活值也需要保存  训练过程中怎么去做到对激活值的显存占用，有什么参数可以进行控制 （答了混合精度，面试官说不对- 激活显存 ≈ `batch_size × seq_len × hidden_dim × n_layers × bytes_per_element`- 设置bs相关，也就是使用梯度检查点（Gradient Checkpointing），将大的bs分割成小的micro-bs来计算，最后进行一个统一PPO DPO GRPOclip可以限制分布差异  还有哪些方法KL 散度公式2. 手撕给定两个叶子节点，在二叉树中找到两个节点的最近公共祖先，空间复杂度要求o(1)。每个节点存在指向父节点指针

算法：LC121. 买卖股票的最佳时机（easy，但面试官要求用动态规划解决）SQL题：表中有sku,name,effectiveTime三个字段，effectiveTime表示生效时间，每次更新数据都会插入最新的生效时间，要求查询出最新的生效记录1. 接口和抽象类的区别是什么？分别能不能new对象？2. 有用过匿名内部类吗？介绍一下3. 多态是什么，详细介绍一下4. 你常用的Redis数据类型有哪些？5. Redis中存在大Key会有什么影响？为什么导致执行速度慢？6. 索引有哪些类型？主键索引和唯一索引的区别是什么7. 介绍一下聚集索引和二级索引8. 项目中为什么用JWT，和cookie-session相比有何优势9. session共享问题有什么其它解决方案吗10. 项目中的加密存储如何实现的？盐是什么？11. 加盐之后，用户登录的验证过程怎么实现12. 把盐和最终的哈希值保存到同一个数据库存在安全隐患，有没有优化方案？相比百度和字节，明显感觉腾讯的项目拷打更多，很多点面试官都问得很深，涉及很多实际的工程问题，后面也说了一些优化方案

1.介绍下self-attention，计算其时间复杂度。2.为什么要用multi-head attention？3.PPO的clip机制？在线强化学习和离线强化学习有什么区别？RLHF是哪一种？4.为什么要用reference model? 为了解决什么问题？5.如何让多个agent协同工作的？举个具体的协同机制例子。6.如果一个agent误判导致策略冲突，如何处理？7.有没有用到类似AutoGen或LangChain的框架？为什么选这个框架？8.你是怎么设计agent的记忆系统？9.长期记忆如何存储？如果历史记录量非常大，怎么优化查询效率？10.有没有做记忆衰退，避免旧数据干扰新任务？11.你们这种模块堆叠的架构是怎么设计视觉问答模块和动作模块的协同逻辑的？12.human feedback是怎么被agent消化吸收的？有没有用rl进行策略更新？13.有没有做过模型压缩？比如在车载端或低端设备上的推理加速？14.如果量化后理解能力下降怎么办？怎么做精度补偿？15.你怎么处理响应速度与推理精度之间的tradeoff？是先召回再精排，还是单次生成？

1.实习介绍2. RPC 与路由器的网络层级3.Python 调用 C++ 库（Ctypes, Pybind11 等）4.协程 (Coroutine)5.Vue2/3 数据双向绑定6.Node.js vs Python 并发 & Async/Await 区别7.JSON 数组转树形结构

1.自我介绍2.LoRA 的 rank, alpha, dropout 参数及设置原因3.Reward Model 的训练（公式解释）4.Log Likelihood Loss 公式5.最长公共子序列（LCSS）优化6.反问环节

1.介绍下self-attention，计算其时间复杂度。2.为什么要用multi-head attention？3.PPO的clip机制？在线强化学习和离线强化学习有什么区别？RLHF是哪一种？4.为什么要用reference model? 为了解决什么问题？5.如何让多个agent协同工作的？举个具体的协同机制例子。6.如果一个agent误判导致策略冲突，如何处理？7.有没有用到类似AutoGen或LangChain的框架？为什么选这个框架？8.你是怎么设计agent的记忆系统？9.长期记忆如何存储？如果历史记录量非常大，怎么优化查询效率？10.你怎么处理响应速度与推理精度之间的tradeoff？是先召回再精排，还是单次生成？📳对于想求职算法岗的同学，如果想参加高质量项目辅导，提升面试能力，欢迎后台联系。

50多min全程八股，竟然没问项目？这正常吗。1.接口和抽象类的区别2.final关键字的作用3.可以用final修饰抽象类吗？4.hashmap底层数据结构5.hashmap为什么不是线程安全的？6.concurrenthashmap为什么是线程安全的？7.线程池跟直接new 一个线程有什么优点8.拒绝策略有哪些？9.threadLocal可能会出现哪些问题？怎么处理？10.spring创建bean的方式11.AOP使用过吗？常用注解?12.动态代理（jdk+cglib）13.AOP什么情况会失效?14.如果有两个方法A\B都在AOP范围内，那直接用A去调用B，AOP会失效吗？15.redis基本数据结构16.Zset是怎么实现的？用到的数据结构？哪种排序算法？17.跳表怎么去做排序的？为什么能支持范围查询？18.Zset数据量太多了（大Key）可能导致什么问题?如何优化？19.redis是单线程，但性能为什么那么好呢？20.mysql为什么选择B+树？21.mysql深分页优化？22.sql：分数筛选23.算法：子数组和sql和算法都是比较简单的。整体基本上都答上来了。除了Zset底层不太了解。

📍面试公司：字节🕐面试时间：2.3💻面试岗位：后端❓面试问题：自我介绍1.实习项目介绍与拷打2.数据库和缓存如何保持一致3.Prompt ETL管道如何设计，有哪些模块化4.如何持续性健全扩展文档库5.sync和reentrantlock的区别6.reentrantlock如何实现重入，具体到AQS7.rabbitmq如何实现负载均衡8.仲裁模式下rabbitmq的消费组如何工作9.抖音有很多广告和用户，如何标记一个用户看过一个广告，以后不推给他？（查重）10.大促流量冲击如何保护后端系统11.AOP，代理的实现原理，bean生命周期12.mysql日志介绍13.redis主从复制过程手撕：LC64🙌面试感想：比上一个面试官问的要严一点点，手撕有点紧张了，差点没撕出来...问的都答出来了，面试官说还可以，就是实习写的比较简单面试后秒约三面，能win吗

简历拆解： 1.之前实习的小组在整个部门扮演的是什么角色，你在其中扮演什么角色，你们的kpi是什么2.你是如何结合业务进行数据分析的，数据指标不好怎么进行归因拆解3.之前遇到的最困难的一个项目是什么，怎么解决的4.详细解释一下这个项目是怎么进行a/b test的，怎么得出相应结论5.数据看板搭建根据的是什么纬度6.职业规划岗位的了解：1.ai大模型是怎么运行的，全流程是怎么样的2.一个月有30个需求怎么进行重要性排序3.需求方要求很紧急，但是产品团队说没有足够资源支持，我们应该怎么做（英文）4.你认为产品运营的工作流程是怎么样的5.如果我们需要做一个权限审批系统，一个人既是权限申请者，也是权限管理者，从产品角度上来看有什么问题6.如果你需要设计一个权限审批系统，这个系统的流程是怎么样的

1.用户在“抖音”里进行搜索，和在“百度”上进行搜索，两者最核心的“用户意图”和“期望获得的结果形态”有什么根本不同?2.如何理解 AI大模型和抖音内容生态的结合，会给抖音搜索带来新的增长动力请你举一个具体的例子，说明你理解的这个“新动力”是什么?3.分享一个你近期在使用抖音搜索时，感到“非常不满意”或“体验很差”的经历。你认为导致这个问题的根本原因是什么?4.一个用户搜索“周末去北京哪里玩”。传统的搜索会返回一个视频列表。如果由你来设计，你会如何利用 AI大模型的能力，为这个用户提供一个“革命性的、而非“改良性”的搜索体验?5.请你构思一个目前抖音搜索上“不存在的、由AI驱动的全新搜索功能。这个功能的灵感来源是什么?它解决了用户的什么痛点?6.如何科学地衡量一个AI搜索结果的“用户满意度”?(提示:这比衡量“点击率要复杂得多)。你会建立一个怎样的“效果评测体系”?7.大量用户反馈抱怨 Al的回答“虽然正确，但没有抖音味儿，很无聊”。你会如何将这个模糊的反馈，“翻译”成一个可执行的产品或算法优化需求，并传达给产品经理和算法工程师?