百度大模型实习一面 攒人品

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1. 项目拷打2. 介绍Attention，从数学角度解释一下为啥注意除以\sqrt{d_k}？3. Agent多轮对话中有哪些难点4. SFT数据集构建策略5. 介绍DPO、GRPO、PPO区别6. 如果评估RAG，评估RAG是否work7. 说一下大模型全参数微调的显存计算？说一下SMoE怎么推理的？相比于稠密模型有什么优点？8. 最近看了什么论文和技术报告？推荐算法和大模型有什么地方可以结合呢？9. 手撕：搜索排序数组

📍面试公司：百度外包💻面试岗位：golang❓面试问题：个人介绍Redis类型以及各自的使用场景除了redis还用没用过其他的消息队列，平常怎么用的MySQL5和8有什么区别SQL调优经验AI了解过MCP吗Skills有没有了解过几道基本的coding题目二面：个人介绍redis和mysql的常规八股quickSort

发一下问题给大家参考，攒攒人品！1.实习拷打2.新闻场景下用了什么样的新模型？关键工作是做了什么？3.DIN模型介绍？4.第一版本模型迭代不动了，怎么进行下一次迭代？5.特征工程中，怎么确定哪一些是有意义的特征，哪些是冗余特征，怎么进行确定？6.word2vec用的哪一个？解释这个方法。损失是个交叉熵吗？损失函数的公式？损失函数中负样本损失是一个还是多个？7.大模型相关的了解吗？LLM和MLLM8.拷打其他项目9.手撕：hot100 mid

1、知道 GPT 和 BERT 这种模型的基础框架是怎样的吗BERT 和 GPT 都是基于 Transformer 的预训练模型，但结构和任务目标不一样。BERT 一般采用 Transformer Encoder 堆叠起来的双向编码结构，在预训练时主要做 MLM，也就是随机遮盖一部分 token，让模型根据上下文去恢复被遮掉的词，因此它更适合理解类任务，比如分类、匹配、抽取、检索表示学习。GPT 采用 Transformer Decoder 堆叠起来的单向自回归结构，在预训练时做 next token prediction，也就是根据前面的 token 预测下一个 token，因此它更适合生成...