一面光速收到感谢信算法题是道贪心，写了一点bug但改出来了基本都是八股，不问项目关于prefix tuning lora，beam search，topk,topk之类的都答出来了，但还是挂了，真的很难绷得住，是不是kpi了

一面：(50 min)经典三数之和自我介绍(2 min)问论文，论文细节，包括背景是什么，模型为什么这样设计，以及参数调优等等问上一段实习经历，主要做的内容是什么深挖实习项目，以及两个项目的内容（感觉面试官非常关注项目背景以及方法可行性）问了一下大模型微调相关的项目反问（面试官的反馈是实习和论文都比较偏向于业务落地，“很有意思”不知道是贬义还是褒义，hh）全程无八股，给我的感受就是非常注重业务场景。第二天约二面二面：(50 min)能来实习多久自我介绍(1 min)深挖实习经历大模型项目的一些背景和知识点(面试官对着项目背景质疑了好几遍，当时都麻了，不知道什么情况)一个简单八股：RNN、LST...

1、多模态特征的融合方式（答得不太好）2、大语言模型微调3、Lora为什么A矩阵初始是高斯分布，B初始是全0，为什么能够用低秩的参数表示Transformer的大量参数4、多模态知识图谱介绍，为什么骨架搭建不重新训练剩下的记不清了手撕LCS最长公共子序列

LLM 大模型学习必知必会系列(七)：掌握分布式训练与LoRA/LISA微调：打造高性能大模型的秘诀进阶实战指南 1.微调（Supervised Finetuning） 指令微调阶段使用了已标注数据。这个阶段训练的数据集数量不会像预训练阶段那么大，最多可以达到几千万条，最少可以达到几百条到几千条。指令微调可以将预训练的知识“涌现”出来，进行其他类型的任务，如问答类型的任务。一般指令微调阶段对于在具体行业上的应用是必要的，但指令微调阶段一般不能灌注进去新知识，而是将已有知识的能力以某类任务的形式展现出来。 指令微调任务有多种场景，比较常用的有： 风格化：特定的问答范式 自我认知：自我认知改变 ...