1.自我介绍2.项目拷打3.实习拷打4.微调的显存需求，如何估算？经典的Deepspeed举例5.deepspeed 原理 （ZeRO三阶段、offload）5.多标签文本分类，怎么选大模型，loss怎么设计（不太会传统的NLP任务，每个文本可能有多个标签，只回答了一个交叉熵损失）6.z字螺旋矩阵生成（感觉不能叫螺旋矩阵）：具体为给定一个正整数N，生成下面形式的NxN的矩阵N=4为例7 13 14 166 8 12 152 5 9 111 3 4 10不太会做，🥹没做出来------------------一天三面累死了------------------更新一下，挂了，显示暂不匹配，感觉是题没做出来，以及最后一个问题的原因算了，麻麻滴，反正过了也不去，😡-----------------再更新一下，被二志愿解题方向捞了，明天继续面😂

1.自我介绍2.项目经历，逐条拷打3.假设面试官什么都不懂，简短介绍transformer让其理解transformer的结构transformer残差连接的目的transformer encoder的归一化是什么cv常用的归一化是什么，和transformer归一化的区别layernorm的公式batchnorm推理时的方差和均值如何计算4.RAG的流程5.LLM Agent 技术的了解6.除了DPO，其他的一些对齐算法的实践和了解6.手撕题目 一个mxn矩阵 每行元素从左到右升序，每列元素从上到下升序，给定目标值判断是否在矩阵中问思路时间复杂度7.正常反问------------------今天一天面了三场好累----------更新一下，共享了----------光速复活，早上起床看共享了，这会又显示面试中了就是不知道啥时候继续面

第一次分享，攒人品！一面🕒 岗位/面试时间快star大模型应用/8月9日早上👥 面试题目1.自我介绍2.题目 leetcode300 最长递增子序列 15min 没让讲思路3.研究进展，投什么会议4.实习经历5.实习项目中数据是怎么做的追问，数据收集过程中是否有人工处理蒸馏效果不好的原因是什么，用了什么额外的方式有没有做量化和加速6.偏好数据集是什么，偏好怎么定义的偏好是怎么增强的7.什么是打判，怎么打判的使用的什么模型8.如何解决模型幻觉（分方法，数据，prompt，微调，RAG等等）9.长token输入效果衰减如何解决，效果如何（长度外推问题，建议直接看苏神的blog）10.moe和dense模型的区别，各自的优缺点（随便答了一下moe效率高，每次激活一部分参数，但是同等参数量效果应该没有dense好）反问：组里主要做对内的大模型应用，包括code辅助，个人RAG之类的🤔 面试感受面试官人很好，提问欲望强烈，实习经历问的很细，会对着简历上的东西一条一条问，本来还要问我的研究但是没时间了，最后问了三个简单的八股💢 背景双C9，一段实习，无论文（或者说正在写）希望能对大家有帮助！等一下结果-----------更新，直接寄！果然人才计划不会要我这种没论文的小菜鸡吗