前面基本上都在问论文 无手撕1. 自我介绍2. 介绍下简历上这个项目3. 你对对话 LLM 的理解是什么？它和普通文本生成模型的核心区别是什么？答案：对话 LLM 不是简单地做 next token prediction，它要在多轮交互里持续维护用户意图、对话状态、约束条件和安全边界。普通生成模型更关注单次输入到输出的流畅性，对话模型还要考虑上下文一致性、角色一致性、拒答策略、澄清提问以及工具调用。它的核心难点在于“历史信息并不等价于有效状态”。用户前面说过的内容，有的仍然有效，有的已经被修正，有的是噪声。对话 LLM 必须学会根据当前轮次重新解释历史，而不是把所有历史机械拼接进去。工程上通常...

你在leetcode上练的都是死代码能力🤣

1. 自我介绍2. 为什么要用 DPO，你的 DPO 数据从哪里来DPO 主要用来做偏好对齐，让模型在两个候选答案中更倾向于选择符合业务偏好的回答，而不是只学会复现标准答案。SFT 解决的是“会不会做”，DPO 更偏向解决“更喜欢哪种做法”。数据一般不是直接从线上拿一问一答就能用，而是先用上一版 checkpoint 对同一批 prompt 做多候选采样，再经过规则、模型评审和人工复核构造 chosen/rejected。这里不用商业 API 蒸馏正反样本，是因为不同模型的输出分布和本地模型不一致，直接蒸馏会让偏好边界偏到外部模型的风格上，最后 DPO 学到的是别人的分布，不一定能提升当前模型...