给我面没招了，感觉自己好菜、面试很难，还是要多多练习1.项目拷打2.你的知识库数据是如何清洗和构造的？如果数据质量参差不齐会对 RAG 系统产生哪些影响？3.文档切分策略是如何设计的？chunk size 和 overlap 会如何影响召回质量和生成效果？4.如果用户的问题在知识库中确实存在，但系统经常没有召回正确文档，你会如何排查？5.如果检索到的文档是正确的，但模型最终生成的答案仍然是错误的，你会如何定位问题？6.实际系统中，如果召回结果经常语义相似但事实不相关，你会如何优化检索模块？7.如果一个问题需要跨多个文档的信息才能回答，你的 RAG 系统如何处理这种情况？8.在 RAG 系统中如何判断问题出在检索模块还是生成模块？9.请详细说明 Transformer 从输入 token 到输出 logits 的完整计算流程。10.FFN 层为什么采用“先升维再降维”的结构，这种设计对模型表达能力有什么作用？11.MHA、MQA、GQA 在推理阶段的 KV Cache 占用和计算效率上有什么差异？12.为什么推理阶段 KV Cache 只缓存 K 和 V，而不缓存 Q？13.RoPE 的核心原理是什么，它在长上下文场景下会遇到什么问题？14.instruction tuning 中多轮对话数据训练时，loss mask 应该如何设计？15.如果 SFT 之后模型在特定任务上能力增强，但通用能力明显下降，你会如何解决？16.LoRA 的低秩分解为什么能够逼近全参数微调的效果？17.如果 LoRA 的 rank 设置不合理，在模型表现上会出现什么现象？18.DPO 训练后模型输出明显变长，在实际系统中你会如何处理？19.如果对齐之后模型变得过于保守，经常拒绝回答，你会如何调整训练策略？20.大模型出现复读机现象通常由哪些因素导致？

继续来分享下最近的面经~欢迎友好讨论，信息共享1. Transformer 为什么能替代 RNN 成为大模型主流架构？2. Self-Attention 的计算过程是什么，时间复杂度为什么高？3. Multi-Head Attention 的作用是什么，为什么要分多个头？4. 位置编码为什么必要，绝对位置编码和相对位置编码有什么区别？5. 什么是 KV Cache，它为什么能显著提升推理效率？6. Prefix Cache 和 KV Cache 有什么区别，分别适合什么场景？7. 为什么大模型推理通常是 memory bound，而不是 compute bound？8. Batch 推理和单请求推理的吞吐与延迟 tradeoff 是什么？9. Continuous Batching 解决了什么问题，为什么对推理服务很重要？10. Prefill 和 Decode 两个阶段的性能瓶颈分别在哪里？11. 大模型采样里的 temperature、top-k、top-p 分别会怎样影响输出？12. 贪心解码、束搜索、随机采样分别适合什么生成任务？13. 重复惩罚和长度惩罚分别是为了解决什么问题？14. 为什么模型有时会出现“复读机”现象，通常怎么缓解？15. 量化是什么，INT8、INT4、FP16 的核心区别是什么？16. 推理量化会对模型效果造成什么影响，如何评估是否值得量化？17. 张量并行、流水线并行、数据并行分别适合哪个阶段？18. 单机多卡部署大模型时，通信开销主要来自哪里？19. 为什么 GPU 显存是大模型部署的核心约束之一？20. 模型参数量、上下文长度、并发数三者之间是什么关系？21. 什么是 MoE 模型，为什么它能在参数规模很大时控制推理成本？

攒人品中 1.实习深挖2.介绍LLM项目的背景、动机、想要达成的目标、为什么做?3.详细介绍自己使用的技术，遇到的问题，如何解决的?4.使用LoRA微调，在用LoRA时有没有遇到模型不收敛或指令输出格式损失不符合预期?5.LoRAalpha特别强/特别弱会有什么情况?LoRA增量训练遇到灾难性遗忘如何解决?6.评测模型性能好坏的指标?有没有什么量化指标?怎么评估输入和输出的?7.DPOSample偏好尝试不同reward或其他层面的偏好对齐，选择的依据8.有没有微调过多模态大模型?9.Prompt Engineering项目有没有做过?10.手撕非 Leetcode hot100

继续来分享下最近的面经~欢迎友好讨论，信息共享1. 实习拷打2. 项目拷打3. 介绍一下 ReAct 框架的具体实现流程，Agent 在什么情况下容易陷入思考死循环（Thought Loop）？4. 如果 Agent 调用的底层运维 API 发生超时或 5xx 错误，你在工程上是如何实现容错机制的？5. Redis 的数据结构有哪些？在 Agent 对话上下文缓存中，你会选择哪种结构？6. 线程池的参数如何设置？7. 解释一下分布式事务的 2PC 和 TCC，在 Agent 执行多步跨系统指令时如何保证一致性？8. 类 Manus 的 Agent 需要频繁操作环境，如何实现一个高可用的任务调度器，要考虑哪些方面？9. MySQL 的隔离级别有哪些？什么是幻读？10. TCP 三次握手和四次挥手流程？为什么断开连接需要等待 2MSL？11.  如果要实现一个代码执行沙箱，你从后端角度如何限制 CPU、内存和网络访问？12. 什么是协程？13.为什么 Agent 后端通常采用异步非阻塞模型？14. Kafka 为什么高吞吐？在处理 Agent 异步回调信号时，如何保证消息不丢失？15. 有了解过Agent 的记忆吗？mem0这个记忆框架知道不16. 向量数据库的原理是什么？RAG中的rerank?16. HTTP 与 RPC（如 gRPC/Thrift）的区别是什么？为什么字节内部通信多用 RPC？17. LRU 缓存18. K 个一组翻转链表