腾讯混元TEG大模型三面-实习面经

给我面没招了，发点面经攒攒人品～1.实习拷打2.了解哪些大模型， Qwen 和 DeepSeek 各自的特点？3.MoE 跟 Dense 比，收益主要体现在哪？代价又是什么?4.有没有做过全参微调？没有的话你怎么判断它和值不值得做？5.如果你要把 LoRA 和全参做对比，你会怎么设计实验、控制变量、看哪些指标？6.RLHF 解决什么，在对齐里起什么作用？ RLHF 这一块会继续深挖：7.你知道哪些主流的对齐／强化学习做法？8.代码题：括号生成＋手写多头自注意力

发点面经攒攒人品～1.项目拷打2.实习拷打3.你提到用了CKA你能解释一下它是怎么计算的吗？这个指标真的能评估对齐程度吗4.ModalityAdapter模态适配器这个模块你是怎么设计的？它是怎么起作用的？有没有做过ablation实验？5.对比学习里你怎么构造正负样本的？正负样本不容易区分的时候你们是怎么处理的？有没有用HNM6.你们项目里用了多个loss比如MSE + Contrastive Loss + KL 散度为什么这么设计？有没有出现loss拉扯现象7医疗组手那个项目你说做了Prompt模板设计，能不能举几个例子？分类模板和生成式模板在你们场景下分别怎么做的8你们用的知识库是静态的吗？有没有做向量索引？用的什么方案9怎么避免模型产生医疗幻觉？你们有没有做 hallucination 率评估11.你用过哪些模型推理框架？你觉得Ollama和vLLM区别在哪儿？在车端你们选它们的依据是什么？12.你们说做了14B的车端模型，你们是怎么用SFT数据去做微调的？数据怎么构建的13.评测体系你是怎么搭建的？评测指标都有哪些14.你说你们构建了车载Agent平台Agent链路是怎么调度的多轮对话怎么做状态维护？15.Rewrite模型是你做的，具体输入输出是什么？你们是把 rewrite放在检索前还是后？训练数据是人工构造的吗？16你现在要设计一个多模态模型用于车内驾驶员状态识别，传感器包括摄像头和力传感器，你会怎么设计这个 pipeline

攒人品中，祝大家都能拿到满意的Offer！1.lora微调原理2.P tuning3.强化学习 ppo grpo4.prompt 微调5.attention结构6.gpt12的结构7.Deepseek r1 训练四个阶段8.Encoder only decoder only 区别9.Llamma12的结构10.Deepseekv2 v3 r1 r1 zero的结构和训练过程11.探讨moe技术细节以及未来发展的困境

继续来分享下之前的面经~欢迎友好讨论，信息共享1.项目细节深挖2.除了caption数据,为什么还要做一些VQA、reasoning、summary数据呢?3.解释为什么VQA、conversation、reasoning数据可能会提升模型效果4.当时的消融实验是完全消融吗?具体怎么做的?5.你的关键帧是怎么做的?6.技术报告看过吗:glm-4.1V,qwen3-vl,mimo-vl,kimi-vl,seed-1.5-vl7.你有仔细去看现在主流的VLM是怎么去洗数据，或者是怎么构造整套pipeline吧8.假如说你参与到这个进程中，你怎么看待接下来的趋势，或者说你拿到一个STEM任务类型，你会怎么去做，你觉得现在技术报告里的缺点在哪里，你有什么想法吗?9.使用VLM-as-judge做整套的数据清洗pipeline，从合成、清洗、过滤、验证、合并，这块有了解吗