有人知道中兴boss面是什么具体形式吗？有人面过吗？

唯一一个阿里系的约面AIGC岗位上周一面，今天二面是技术面+HR面直接面完两次面试都比较关注实习经历，说是跟他们做的比较相似几个重点写一下：1. 比较在意你是不是真的上手训练了，会问具体的训练参数，训练时间，loss指标，会问你真正主要负责了哪些部分，参与就说参与，负责就说负责，不然会给自己挖坑2. 比较关注数据处理的流程细节，比如去重、采样、多样性3. 比较关注你对业务的理解，为什么这么做，背后的业务问题是什么4. 比较关注继续预训练的细节，偏好对齐的细节5. 问了一些PPO和DPO的细节，两个的对比，分别改进的话有哪些方向（比如PPO如何精简模型数量，DPO怎么改进去掉SFT模型之类的）总体来说两次面试都是问的实习经历比较多，可能比较match吧说是节前会给答复

更新一下，链接消失了，过了，进入复试环节了等三面------------TEG 做游戏AI的1. 自我介绍2. 手撕二叉树路径3. 问比赛，是个多智能体强化学习相关的，问主要负责哪些部分，有效果的改进是什么4. 问项目，也是多智能体强化学习相关的研究项目，面试官这里问的有点偏，主要是纠结RLHF的偏好标签的问题5. 问多智能体强化学习的算法，说了一下两大类的经典QMIX和MADDPG6. 问实习，讲了一遍实习经历，问RLHF（PPO）、DPO、RPO的区别，DPO的缺陷在哪里7. 问PPO的GAE计算8. 问MARL的解决效用分配的算法中，效用分配体现在哪里反问，主要做游戏AI，强化学习用的多，LLM也在探索整体就是这么多，45分钟不到，基本上比赛、项目、实习都问了，可能我没有论文提不起兴趣吧先许愿一个过吧，坚持两个小时不被挂就是胜利！

更新一下，后面还有一轮院长面-----------------智源研究院 行业大模型9月5号一面9月16号HR面三轮技术+HR许愿一个offer！

字节三面，写了三遍交叉熵🤮今天又是交叉熵，还是numpy手写二分类交叉熵整个过程真是交交又叉叉啊🤣

更新一下，确实过了，约二面了----------如题，这周复活赛打赢被捞了，今天晚上面完，23点的时候刷新发现链接消失了，但是如图还是显示初试环节这正常吗，我看一般都是进复试然后复试面试场数可能很多

想了一下还是写一下吧，后面面经可能不会写的很详细了jd那条我先隐了，有需求可以私信交流1. 自我介绍完了之后讲项目2. 做题，LC1363. 手撕交叉熵，以及原理4. 做一个找数组中最大的K个数5. 智力题，关于对称路径的问题，同一段路来回总时间一样会不会遇到来回同一时间点在同一位置的情况已经过了，等三面

一、智谱AI GLM对齐组 二面1. 自我介绍2. 昨天晚上面的，很多记不得了3. 主要问了一下实习做便好对齐的一些DPO的细节4. 问了一下RLHF强化学习部分的一些优化5. 问了我做DPO训练的资源和时间消耗（这里有点忘了，结果面试官估算了一下算的非常准确）6. 问了我项目里面做PPO训练的时候的资源消耗（记不得，现场推算了一下）面试官水平很高，对齐方面问的很深入，感觉我半路出家还是不太行，面试官对我也不是很感兴趣，半个小时就结束了今天问HR挂了没，还没有明确结果二、中兴 算法工程师（智算） 三面1. 自我介绍2. 主要拷打实习，问了很多继续预训练的细节，比较在意有没有对基座模型进行修改3. 我三面专家面的画风好像跟我在牛客上看到的不太一样，偏向于聊天面，没有太多参考意义目前状态已经进 综合评估 状态了三、智源研究院 行业大模型 二面1. 自我介绍2. 主要拷打实习的继续预训练、SFT、DPO的所有内容3. 问了一些LLM的传统八股，有一个比较答的差的问题，SFT的loss具体是怎么算的？感觉这个下去还得仔细看看代码，平常基本上就是用框架，没太关注过🥹上面三个面试都没有手撕

1. 自我介绍2. transformer中softmax的作用？不做softmax会有什么问题？Softmax怎么解决上下溢的问题？除了减去最大值还有方法？3. selfattention 和传统attention 的区别？为什么Q K矩阵要不一样？Q K相同会怎么样？4. BERT的CLS token的作用？这个CLS在下游分类任务的效果不好，有什么不用CLS的改进方法吗？用BERT做分类如何更好表达句子含义？BERT的输出有几种？对应BERT中的哪两个函数？BERT当中哪些计算是线性的哪些是非线性的？BERT是怎么区分一词多义的？5. 学习率warmup的用法和作用？解释梯度消失的原因和解决方法，Dropout可以解决梯度消失吗？6. BERT和GPT各自结构的优势？如果大模型以后部署、速度都得到了很大的提升，BERT会被取代吗？7. GBDT和随机森林的区别？各自的方法流程？各自的数据处理的特点？各自偏向于解决什么问题？GBDT和随机森林对异常值的敏感程度？随机森林随机体现在哪些地方？8. 讲一下BN和LN，Transformer问什么不用BN？9. LORA微调的目的？LORA可以增加领域知识吗？LORA矩阵初始化？两个矩阵的初始化反过来会怎么样？LORA微调的超参？10. LLM复读机问题以及解决方法有哪些？怎么抑制LLM的幻觉问题？常用的位置编码有哪些？ 一些对原始attention的改进有哪些？11. 为什么要用多头注意力？多头的思想和QKV三个不同投影矩阵的思想的异同？QKV矩阵除了增加表达能力以外还有什么作用？（不太懂问的是啥，面试官后面提示说是还有降维的作用，不是很懂）类似多头的集成的思想在什么算法里面比较常见？（我答了机器学习的集成学习类，比如前面的随机森林，还说了MOE这种，面试官比较想听到的是多尺度CNN）修改了一些内容，恢复开放了，之前热度太高有点😨

如图，以及挂了6个志愿了你到底招不招人啊啊啊啊啊啊

如题，太爽了，第一次体验秒进录用评估！

话说有人拼多多进行到四面的嘛？

1. 面试官先自我介绍了一下2. 我的自我介绍3. 主要比较care实习里面的各个阶段的数据流程，问了一下合成数据的优缺点？4. 问了一下LLM评估方面，人工还是自动化？离线评估指标和线上评估指标有什么区别？5. 问了一下推荐系统和LLM结合的理解，从召回和精排两部分稍微说了一下理解，以及结合多模态blabla6. 做了一个最长回文子串的题，我用的一般的O(n^2)的算法，那个O(n)的记不得了，面试官让优化，大概说了一下可以剪枝什么的，没有具体做（确实不太会）7. 反问，其实更多的是面试官在给我讲推荐系统的难点，以及他们认为LLM可以优化哪些地方

这周一腾讯QQ一面秒挂影响了心情，这周的面经都没写面经的话尽量回忆一下联想一面1. 问了一个比较怪的问题，我没有很理解。就是我项目里面有做RLHF，他就问我的RM怎么训练的，回答给SFT模型加一个线性层输出reward值，然后就问我这个过程需要导什么库？答加载模型需要transformers库，然后问我加那个reward头需要什么库？有点懵，不是很懂他想问什么，加头的做法是参照LlamaforSequntialClassification做的2. 然后其他的都是一些常规问题，不太记得了，没有做题腾讯 QQ 一面1. 主要拷打了一下实习和项目2. 然后问我如果在QQ想做什么，回答了可能做QQ短视频、小世界的一些推荐（给自己挖坑，推荐只是速成了一下，不是很熟悉）3. 然后开始问推荐怎么和大模型进行结合？问开放性问题：怎么去给QQ短视频里面的视频做推荐？怎么挖掘这些视频的标签？ 只能说自己挖坑自己受苦4. 手撕出了一个 寻找目标值，之前面试的时候做过，结果这次做的有些小bug，感觉是这个导致了最后挂字节 广告算法 一面重量级来了1. 上来没有问实习，没有问项目直接开始八股轰炸2. transformer相关经典八股，问了有一个问题我觉得值得说一下，就是问我知不知道序列中每一个token的embedding在经过很多层self attention之后会变得相似的问题以及对应的原因？之前没有思考过，当场思考了一下，意思大概是深层网络往往学到的是序列的全局特征，所以会相似，还有就是每一次做self attention相当于在做平滑。这部分确实还得再想想3. 开始机器学习相关，手撕一个二分类的全流程，从输入到embedding到分类网络到sigmoid函数到交叉熵loss（中间的具体模型用一个函数代替即可）4. 手撕上述交叉熵loss的链式求导，就是loss对p求导，p对sigmoid求导（这里需要记住sigmoid的导数等于sigmoid x （1-sigmoid），不然现场推怕是推不了一点）5. 做一个最长公共子序列，算是常规6. 改成子串再做一遍。。。。（这个还是想了好久怎么改DP的条件）只能说不愧是字节，希望二面不要太折磨人😩中兴 算法工程师（智算）一面会议室里面进来了四个人😨，离谱1. 主要还是问实习和项目2. 其中一个面试官感觉像是套方案，疯狂问我实习部分继续预训练的数据大小、数据配比、数据清洗、训练流程、训练参数、学习率，感觉是遇到这种面试官还真得牢记项目的全流程，一些环节忘了就有点尬了智谱AI GLM对齐团队 一面1. 实习、项目拷打2. 因为是对齐团队，所以很care我有没有关注目前前沿的RLHF方法（前沿的关注不了一点，只能说了一些感觉有点早的东西）3. 大概讲了 从优化PPO出发和优化DPO出发的两类对齐方法，优化PPO的比如deepseek的GRPO，优化DPO的比如一堆DPO变体，以及DPO加正则化的方法。中间还让我从强化学习的角度给出优化PPO的方法，我就讲了一下老本行，从PG到REINFORCE到TRPO到PPO，然后表示我也不知道怎么优化PPO，已经是强化学习工业界用的最广泛的了哈哈哈哈哈4. 手撕了一个transformer的decoder block5. 记忆里应该还是问了Deepspeed跟Megatron智源人工智能研究院 行业大模型 一面1.时长半个小时，主要拷打实习经历，我实习做的也是领域大模型。非常巧的是，面试官也在美团同一个部门实习过，甚至认识我老板，希望不要跟我老板对情况，戳穿我吹牛逼的东西快手 推荐大模型 二面1. 记不太清问了些啥了，感觉是实习主要加LLM的一些经典八股（感觉是不超出我目前写过的面经的范围）2. 手撕了一道最小编辑距离，写的时候有一个地方=写成==了，一直检查不出来，给面试官逗笑了京东 NLP 二面1. 主要拷打实习，比较关注数据质量处理，以及模型评估方面，会care具体上线业务没有2. 一些常规的LLM八股，有一个问题值得说一下。问了一个LLM推理的时候，如何从prompt到response？他想问的意思其实是LLM出来的结果不是prompt+response嘛，然后怎么去把response分出来，还说具体的代码里面会有一些额外操作，不是简单的截取然后decode，让我下去仔细看看3. 手撕了一个topk，我直接heapq.nlargest，面试官说也行哈哈哈哈哈中兴 算法工程师（智算）二面1. 这一面感觉是很HR面的感觉，介绍实习的时候也是比较关注数据的来源、处理、采样方面，然后是聊天，各种查户口面试时间硬是拖到一个小时，本来预约的是半个小时。。---------------------------又是忙碌的一周，感觉是腾讯给我秒挂了真的很影响心情，毕竟是最想去的厂了麻花腾！再给我一次👅的机会吧