腾讯TEG二面

继续来分享下之前的面经~欢迎友好讨论，信息共享八股1. 为什么用decode-only，相比于encoder-only和encoder-decoder的区别；2. 对attention的了解、MHA、GQA这些；3. 分布式训练方式deepspeed这些；4. ppo的了解，grpo，dapo的了解，grpo可能存在哪些劣势5. ppo相比于之前的RL方法的创新点coding将一个整数拆成k个和的形式，求最大乘积

发点面经攒攒人品～1.项目拷打2.实习拷打3.你提到用了CKA你能解释一下它是怎么计算的吗？这个指标真的能评估对齐程度吗4.ModalityAdapter模态适配器这个模块你是怎么设计的？它是怎么起作用的？有没有做过ablation实验？5.对比学习里你怎么构造正负样本的？正负样本不容易区分的时候你们是怎么处理的？有没有用HNM6.你们项目里用了多个loss比如MSE + Contrastive Loss + KL 散度为什么这么设计？有没有出现loss拉扯现象7医疗组手那个项目你说做了Prompt模板设计，能不能举几个例子？分类模板和生成式模板在你们场景下分别怎么做的8你们用的知识库是静态的吗？有没有做向量索引？用的什么方案9怎么避免模型产生医疗幻觉？你们有没有做 hallucination 率评估11.你用过哪些模型推理框架？你觉得Ollama和vLLM区别在哪儿？在车端你们选它们的依据是什么？12.你们说做了14B的车端模型，你们是怎么用SFT数据去做微调的？数据怎么构建的13.评测体系你是怎么搭建的？评测指标都有哪些14.你说你们构建了车载Agent平台Agent链路是怎么调度的多轮对话怎么做状态维护？15.Rewrite模型是你做的，具体输入输出是什么？你们是把 rewrite放在检索前还是后？训练数据是人工构造的吗？16你现在要设计一个多模态模型用于车内驾驶员状态识别，传感器包括摄像头和力传感器，你会怎么设计这个 pipeline

面经发出来攒攒人品括号里面是我自己的回答，不知道面试官是否满意问的内容还是蛮多的

攒人品中，祝大家都能拿到满意的Offer！1. 拷打项目2. 拷打实习部分问题：2.1 介绍一下主要做的事情，一些特殊细节，包括整个项目的背景。2.2 讲一下RankMixer 的结构的核心原理。它和传统的交叉网络或者是多任务多场景的一些模型比的话，它的优势2.3 你刚刚提到了动态拓展 token 数量，然后来实现自动的交叉。这个动态拓展是怎么做的？2.4 指标这里我看 CTR 的 AUC 是涨了**个bp，但是它的 GAUC 是涨了 (**+5) 个bp，GAUC涨的更多，这里有分析过原因吗？2.5 最终你们是怎么去评估的，就是这些场景特征到底起作用了没有？2.6 有试过添加更多 Token 吗？它的边际效率在哪里？2.7 所有场景的样本是一起训的吗？还是一个场景一个模型？手撕：交换相邻字符的最小操作次数手撕：二叉搜索树的第 K 大节点