LORA 原理：解释 LORA(Low-RankAdaptation)的核心思想，如何通过低秩矩阵实现参数高效微调?数学形式如何表达?Self-Attention机制：自注意力机制中 O/K/ 矩阵的作用是什么?如何通过缩放点积计算注意力权重?公式推导并解释Softmax 的意义。位置编码：Transformer为何需要位置编码?主流 LLM(如 LLaMA、GPT)使用哪种位置编码(如 ROPE)?相比绝对/相对位置编码有何优势?Seq2Seg 模型：Seq2Seq模型的核心组件是什么?Encoder-Decoder结构如何解决长程依赖问题?RAG技术：RAG(检索增强生成)的完整链路包含哪...

已经炸了

📍面试公司：腾讯💻面试岗位：应用研究面试流程：5-19：一面5月6号发短信来，约19号，晚上7点，应该面试的人很多排到了这么久。自我介绍介绍论文“八股”：CLIP，Bert，介绍自己懂的多模态模型，还讲了一堆论文我记不得了。我没准备八股，但是我太能说了，所以基本就是我单方面说觉得有意思的人工智能论文是怎么实现的，有什么优缺点。因为平时研究就是做这个，所以讲起来涛涛不绝，一篇论文讲完马上说优缺点，转向下一篇谈如何解决的，如此往复。Diffusuion和autoregressive的区别。反问：我主要好奇他们的业务，稍微问了下。5-20 二面短信，不慎生病，推迟到5-26.5-26：二面自我介...