一共只面了两轮，9.3一面，9.9二面，没有HR面，9.20 OC一面/技术面 2024/9/3 晚上20:00-21:00自我介绍腾讯实习介绍实习过程中做的比较好的部分有哪些华为框架以及NPU使用过程中遇到的问题LongLoRA和LoRA区别大模型和推荐你觉得有哪些可结合的点？商品的理解、描述等介绍快手实习在线的效果这段实习主要的难点在哪里user会事先做一些embedding预处理吗loss是什么会有u2i的融入吗迁移学习过平滑理解NeurIPS论文介绍baseline分为哪些BN在train和test的区别代码题：重排链表二面/技术面 2024/9/9 下午15:00-15:40自我介绍...

10.29打电话开奖了，校招最高档薪资，SSP，考虑中一面/技术面 2024/8/23 上午11:00-12:00自我介绍挑一个实习介绍了解哪些位置编码技术RoPE原理线性内插、NTK到YaRN位置内插后注意力计算会增加，如何缓解介绍LongLoRA数据集构建时各种类型的比例是如何确定的使用华为910B及其相关平台时遇到过哪些困难，如何解决的效果如何评测最终的效果提升有没有什么具体的指标Coding：两数之和为什么要投蔚来反问二面/技术面 2024/9/3 下午16:00-17:00自我介绍介绍实习自己做了哪些工作，mentor提供了哪些支持介绍LongLoRAYaRN原理主要业务场景训练过程...

9.13下午一点半左右收到意向，有技术加面，希望不是白菜----------------------------------------有人收到滴滴提前批的意向邮件吗，之前HR面的时候被告知今年应该会早一点发意向，预计是八月底，这马上九月份了还没收到邮件

之前北斗投了一些，但是都没通过简历筛，前段时间美团正式批大模型一面面完过了三天没人推进，简历被北斗这边捞起来了，咱也不知道为啥会被什么营销推荐给捞起来，不过北斗大模型确实是摸不到门槛面试问得还算基础，整体难度还OK介绍快手推荐实习应用场景是什么图是怎么构造的，详细的构建过程GNN怎么处理不同关系得到用户embedding后线上如何使用详细说说后续的链路过程介绍腾讯实习SFT数据集如何构造的构造后怎么用于模型的微调的，损失函数详细介绍LongLoRA微调策略，s2-attn常见的sparse attentionsparse attention和长文本的结合后续如何改进开源的各种技术，你们如何评估...

为啥美团正式批一志愿大模型应用一面后把我挂了。。。不知道是超时没人捞被挂了还是真的被挂了，反正已经凉凉然后又收到了北斗的约面，但也不是我之前投的北斗志愿中的任何一个，就很迷

一面 2024/7/24 晚上19:00-20:00自我介绍介绍实习，问了七八个问题手撕单层MLP做回归手撕Beam Search手撕单层MLP做二分类感觉手撕MLP这个基本上是minimax的必考题，幸好提前看了面经二面 2024/7/31 晚上20:00-20:30自我介绍介绍实习介绍一下实习中某个方法的细节数据集构建细节开放场景题，如果要训练一个长文本的翻译模型，如何构建数据集明确说我背景有点弱，不太适合做模型感觉minimax门槛比较高，二面面试官的态度有点一言难尽直接说我背景太弱了，无论是学校还是实习还是paper，在他们这边都只适合去做数据，不太够得着模型，面完后直接秒挂了

一面/技术面 2024/8/12 晚上19:00-19:40自我介绍介绍了一下腾讯实习数据集如何评测如何根据发现的问题设计解决方案，有哪些例子显卡资源华为910B+MindformersRAG有没有涉及到对底层代码的更改Coding：括号匹配反问二面/技术面 2024/8/16 晚上18:00-18:30介绍腾讯实习简单聊快手实习代码考察：直接屏幕共享展示一些之前写的代码即可三面/技术面 2024/8/20 17:00-18:00自我介绍腾讯实习针对实习问了七八个问题NIPS论文encoder-decoder分离有什么好处代码考察1：合并两个升序链表代码考察2：最长公共子串四面/HR面 202...

一面/技术面 2024/7/30 下午14:00-15:00面试官先介绍了一下部门的整体情况自我介绍介绍快手实习介绍NIPS论文如何把NIPS论文中的东西用到视频推荐中去呢有没有其他应用场景如果要预测一个视频未来的热度，怎么去做介绍腾讯实习如何构建的数据集？怎么进行sft的还了解哪些微调方式，LoRA LongLoRA QLoRA AdaLoRA平时自己有没有构建prompt的心得和技巧介绍一下transformer的主要结构以及流程开放场景题：小红书目前要做XXX大模型场景，同时资源比较有限，请问应该怎么怎么去弄，介绍全流程；主要介绍了思维链Coding：合并K个有序数组二面/技术面 202...

一面/技术面 2024/8/6 晚上19:40-20:20自我介绍介绍最新的一篇在投的论文，问了几个问题介绍NeurIPS论文介绍腾讯实习数据集构造？怎么微调的尝试了哪些模型，为什么选择这个尝试了哪些策略，为什么选择这个还知道哪些长文本技术策略除了微调还知道哪些流程（对齐）说说提示压缩介绍快手实习了解哪些位置编码偏好对齐的理解，有哪些方式进来后你主要想做哪方面的应用你觉得目前有哪些大模型应用是很必要的，了解代码生成原理吗反问环节：主要业务二面/技术面 2024/8/6 早上10:50-11:50自我介绍为什么选择做NLP如何看待团队合作与消歧具体举例有没有让你觉得特别惊艳的产品和其他类似产品比...

一面 2024/8/2 下午16:50-17:30自我介绍问了一下硕士期间做的方向介绍一下大模型实习怎么构造的数据集prompt怎么构建的如何筛选出高质量的数据集？怎么做的SFT你们对数据集中模型的输出有什么要求大模型为什么会有重复输出或者不能停止的现象？从哪些方面可以解决？能够保证大模型两次输出的结果一样吗？为什么？batch_size度对模型的输出有什么影响了解思维链吗思维链有什么好处，从模型训练和损失函数等方面说说为什么要转大模型方向对传统的NLP方向有什么了解文本分类和情感分类啥的有做过相关项目吗对RAG了解吗，为什么要有RAG问了博客的一些事情，主要什么内容第一意向是北京，合肥能不能...

一面/技术面 2024/7/25 晚上18:00-19:00自我介绍为什么不做推荐转行做NLP介绍实习，从背景、动机、数据处理、实验方案到成果，到后续安排，问了个遍数据如何处理详细介绍了LongLoRA，包括各种实验细节Sparse Attention了解哪些Transformer中有哪些加速收敛，防止过拟合的操作介绍各种norm，batchnorm训练测试差异位置编码方案有哪些？优缺点长文本技术了解哪些，详细说一说长文本和Sparse Attention的结合有哪些，详细说说介绍NIPS论文，问了一些问题代码：二叉树右视图，比较基础反问二面/技术面 2024/8/14 晚上20:00-21:...

一面/技术面 2024/8/2 下午14:00-14:30面试官先介绍了一下部门的整体情况自我介绍快手实习，详细问了XGBoost损失函数？如何处理缺失值？bagging和boosting模型异同如何处理样本不均衡的问题腾讯实习介绍LongLoRA长文本有哪些技术norm有哪些作用为什么不能用bnOOM一般你怎么解决说说deepspeed反问：业务场景Coding：岛屿数量二面/技术面 2024/8/7 晚上19:00-19:40自我介绍介绍腾讯实习目前上线后有没有遇到什么问题，后续打算如何解决遇到的最难的问题是什么，如何解决的模型并行和数据并行模型的哪些部分比较耗费显存说说DeepSpeed...

写在前面经过将近两个月的忙活，暑期实习算是告一段落了感觉自己的研究方向一直在变，但好在这些方向之间还有着一些联系本科大一期末结束后被班主任邀请到组内做一些科研，当时方向是时序预测，主要做负荷预测。经过大二的沉淀，大三发了一篇学报。由于毕设原因，大三开始接触联邦学习相关内容，并将其作为自己的本科毕设方向，但主要还是将联邦学习和负荷预测进行结合，最后也是有了一篇论文产出大三结束后成功保研，选择的导师方向是图挖掘方向，开始接触图神经网络，并逐渐对其产生很大的兴趣，和硕导交流后，确定自己硕士期间主要做基于图神经网络的社交网络传播分析与预测读研后，由于积累了一定的科研基础和比较强的代码能力，研一结束后便...

个人背景可以看之前写的腾讯LLM面经一面 2024/3/28 下午17:00-18:00上来没有自我介绍直接介绍NeurIPS论文，中间穿插着一些提问说一下Transformer的整体结构了解有哪些位置编码方式吗说一下LLaMA中的旋转位置编码算法题：经典的求平方根，牛顿迭代法秒了算法题：判断一个字符串能否由另一个字符串旋转而来，比如abcd旋转后可以变成dabc或者bcda等，写完后面试官要求O(1)，临时没想出来详细说了快手的用户推荐算法实习，主要做了些什么你的NeurIPS论文能和推荐那边结合起来吗NeurIPS中论文中有没有考虑事件本身的一些属性，或者动态性什么的，我说后续有在考虑做这...

个人背景可以看之前写的腾讯LLM面经一面/技术面 2024/4/7 晚上19:00-20:00没有自我介绍，直接让介绍一些工作介绍了NeurIPS论文介绍了ICDM论文问了本科的建模？这属实没想到。。。着重介绍了快手的实习，面试官说他之前也做过搜广推这块的，所以问得比较详细图与LLM结合这块了解多吗？说了一些现有的工作面试官说他们现在在做一些代码生成/理解的东西，问我对这块有没有什么理解和想法，开放性问答问我有没有上手过一些LLM的东西，我说了LoRA微调，让我说了下原理LoRA一般用在哪里？用在不同地方有什么区别吗来了一个新面试官，让我再用几句话总结一下快手的实习为什么你做的东西会有效果？简...