一个小时左右计算与智能平台部做智能客服，美团app上在接入人工客服前的自动回复都是他们做的，主要用得到技术是RAG。有用开源模型continue learning，也有用美团内部的模型。团队比较关注外部最新进展，比如昨天的Llama3，会拿来跑榜单。给了一个场景，让我想想会怎么做：给你一个大模型，怎么去做情感分析？比如客服场景，判断用户的评论是抱怨还是投诉还是夸奖。特定领域微调大模型后通用能力下降怎么办？后面完全是根据简历上写的东西提问。PEFT知道哪些？用过哪些？为什么用这些？有什么区别？ChatGLM跟Llama2有什么区别？两者在词表大小上的区别？Llama2在Llama上有哪些改动？算法题：让我自己选一个能体现自己能力的题…有点懵。选了力扣221（感觉是准备直接挂了，都不想出题感觉每次找实习都面了美团，最后每次拿了offer都没去…

个人背景可以看之前写的腾讯LLM面经一面/技术面 2024/3/20 下午15:00-16:00一面是电话面你对大模型有什么了解？简单说了大致的流程，预训练、有监督微调，RLHF之类的说一下RLHF的具体流程给了一个场景：如果现在给你一个预训练模型，然后场景是要帮助小学生做数学题，你会如何从头到尾来做这件事？大概提了数据收集，清洗，然后有监督微调，思维链分解过程之类的东西，还有幻觉问题你刚刚提到了幻觉问题，请问你知道有哪些缓解幻觉问题的思路吗？（结合之前写的基金本子回答了一波）你刚刚提到了思维链，大概说一下流程说一下NIPS那篇论文，中间问了大概十多个问题写代码，以为会是LeetCode那种，...

算法的面试最近基本上都是项目为主， 也没啥八股，就没写面经。蚂蚁是算法工程 二面，饿了么是 NLP 二面， 智能信息是 NLP 一面。蚂蚁基本没问啥，就是针对项目聊了一会时间。重点是后面的代码题给我整不会了。1. leetcode84 柱状图中的最大矩形（上个月刷了，经典单调栈，但是这题感觉我当时写就不太理解， 面试官问我思路我脱口而出单调栈，但是写不出来）2. 84 没写出来，给我换了一个，149。又是一个 hard（开始无语，就想早点结束给我挂了算了。 这题我也没写过， 暴力肯定不难。 但是我说这个我想不到比较优的解）3. 又给我换了一个， 这次给我一个 easy， 让我把一串字符串的空格移动到最后（竟然还给我做道题，这个时候都一个小时多了已经，我还以为会直接结束）然后面试官让我之后可以把前面两道题代码补进那个网页里（结果第二题没来得及补，就进不去了）智能信息一面，夸克 医疗创新1. 一样聊在蚂蚁实习的算法项目2. 中途问了一下， PEFT 的那几种微调的区别，就大概讲了一下我自己的理解3. 我对大模型训练的流程熟悉吗？（就大概讲了一下全流程）4. 了解 RLHF 吗（不太了解，没做过。就随便讲了一下奖励模型啥的）5. DPO 知道吗（不知道怎么做的，就没问了）6. 你觉得应该从哪些方面一个大模型的好坏？（随便说了几个， 知识储备， 指令跟随， 安全对齐， 对话逻辑）7. 那你认为， 你说的这几种能力，都是在模型训练流程的哪个部分获得的？（挺有意思的问题。 知识储备是预训练获取的， 指令跟随一般是做微调， 安全对齐可能是 SFT rlhf， 对话的逻辑性应该都有关）还有啥不记得了， 也没做代码题。 面后不久就约二面了。我笔试都还没做呢饿了么二面饿了么二面有点深挖项目了， 很多我都不太清楚。1. 项目介绍2. 深入聊大模型梯度攻击（这东西在蚂蚁做的， 每次说这个我都很累， 自己讲的面试官都听不明白， 不懂怎么做的。 然后就会出现很多牛头不对马嘴的问题，饿了么二面就一直卡在一个地方说了很久。3.  那你们这个自回归任务用的 loss 是什么？ 回归任务常用的 loss 有哪些（这我 ** 还真没了解， 就知道 L1 L2 范数这种，或者用 cos距离）还有一些啥不记得了，饿了么二面时间感觉就 40 分钟，也没做题

三志愿复活赛（1）自我介绍（还问了到岗时间和实习时长）（2）深挖论文（让我共享屏幕，打开论文讲）（3）八股（model.train()和eval()区别，BN和LN的区别）（4）算法题：leetcode原题---编辑距离（边界没处理好，只通过了样例）（5）面试官：如果给你offer但是业务方向不是CV，你愿意吗？答：不愿意，只想做CV（现在回想过来，真想给当时自己一巴掌）（6）反问： 我：为什么没有问我大模型方面的问题？面试官：我看你简历上没有大模型的内容。（我寻思你都知道我简历上没内容，干嘛还找我约面阿）状态：面完三个小时后，回到人才库再见了团子