大模型算法岗求助

📍面试公司：vivo💻面试岗位：大模型研究员❓面试问题：1、自我介绍2、项目介绍3、项目交流4、讲一下为啥用DPO5、数据集是怎么构建的？6、怎么去的分析badcase7、会去写训练代码吗？8、chatglm结构9、代码题：和最大子数组10、反问🙌面试感想：Boss投的，应该是日常实习。岗位叫啥研究员，感觉不太像搞啥研究，部门好像是做图片视频理解的。两个面试官，轮着交流。听说就两面，后面还有一面hr面，看看有无后续。        

写在最前面，首先感谢各位驻足观看，我受宠若惊，一共赚了三包薯片了，这期呢还是讲讲最近的去向，还有大伙比较关心的实习工作怎么样，好不好找工作，有好些人私信我，这里一块讲一下。第一个问题，大模型好不好找工作？还是那句话，看你喜欢做什么，大模型应用agent开发是蛮好找的，大模型底层算法调优蒸馏做小模型也好找（不过有点吃学历这个很多只要硕士），大模型做论文复现，写量化这种（很吃学历和paper，一篇还不够，要高端的paper，ccf-a这种算差不多）。在5月2号我做完第一份简历，5月6号收到第一份offer，5月11号去北京时候我已经手握6家offer了，有初创，有小厂，有远程，有大厂，最后我选择了...

1.介绍一下自己2.二面就不问具体项目细节了，问的都是别的内容以及八股    学校都学了什么课    机器学习这门课的框架    分类模型的损失有哪些    在学校的研究方向是什么    介绍一下transformer的decoder结构    为什么选择用llama3    项目做了多久    beamsearch是怎么做的（这个没回答上来，学过的直接忘了）    对大模型行业怎么看，发展趋势    大模型怎么运用到知识图谱中3. 代码题，直接ac了，嘿嘿    单向链表l1->l2->.....->ln重排为l1->ln->l2->l(n-1)->l3->l(n-2)

LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?RAG技术：RAG(检索增强生成)的完整链路包含哪...