淘天私域技术团队27届春招

攒攒人品～ 1.讲讲lora微调的原理2.lora微调在代码中时如何实现的3.在微调时参数是如何设的，为什么要这样设，有什么经验吗4.在微调时显存占用大概是多少，如何计算;计算量呢5.你还知道哪些其他微调方式吗，为什么选择lora微调

最近 Claude Code 很火，但用过的同学都知道一个痛点：新开对话啥都不记得，上次说好的代码风格、踩过的坑、定好的方案——重新来过。而且在目前的面试中，面试官已经不仅仅询问你Skills，MCP，他们更看重你对于实际工程中的痛点有没有深刻的认识。最近的一场面试中，面试官就深入的与我讨论了记忆机制的落地场景，在什么时候应该用什么，然后我忽然发现，mem0并不是最好的解法，至少它绝不是唯一的解法。考虑到这儿，索性就自己写了一个开源项目，既是增强简历的竞争力，也是希望在ai浪潮中做出自己的贡献。项目是什么CapsuleMemory —— 给 AI 系统加「胶囊式记忆」的 Python 框架。G...

LLM Agent 系统的核心瓶颈是上下文管理，其核心痛点包括 Token 限制导致的上下文溢出、多轮对话漂移、工具调用引发的上下文爆炸与污染、记忆检索不精准、记忆冲突及长任务无法持续等问题。解决方案以 “记忆分层、上下文压缩、智能检索” 为核心，通过滑动窗口保留近期对话、上下文总结压缩冗余信息、RAG 实现精准记忆召回、分层记忆架构区分短期 / 长期 / 任务记忆，搭配上下文排序与工具输出压缩等技术，构建以 Context Manager 为核心的生产级架构，同时通过 Prompt Budget 规划、定期总结等最佳实践，在有限 Token 内为 LLM 提供最有价值的上下文，支撑 Agent 稳定高效运行。一、核心痛点1.Token上限限制，长对话+工具数据易致上下文溢出2.多轮对话漂移，Agent偏离初始任务目标3.上下文污染/爆炸，工具返回大量冗余原始数据4.记忆检索不精准，易召回无关/遗漏关键信息5.记忆无一致性机制，用户信息易出现冲突6.长周期任务无法持续推进二、核心解决原则记忆分层、上下文压缩、智能检索，用最少Token为LLM提供高价值上下文。三、核心解决方案1.滑动窗口：保留最近N轮对话，基础兜底方案2.上下文压缩：LLM定期总结对话历史，精简Token3.RAG记忆检索：按需向量检索，仅传入相关长期记忆4.分层记忆架构：短期（近期对话）+长期（用户信息）+情景（任务总结）5.上下文排序：按相关性×新鲜度×重要性打分，仅取Top K高价值内容6.工具输出压缩：原始数据经压缩后，仅传入核心要点四、生产级核心架构以Context Manager为核心统筹，形成闭环：输入层（用户查询/工具结果/历史/记忆）→核心管理层（五大解决方案模块）→记忆层（分层架构）→输出层（Prompt Builder按Token预算拼Prompt入LLM）→反馈层（LLM输出反向更新记忆）五、生产落地最佳实践1.提前规划各组件Token预算，避免溢出2.工具输出、记忆使用必须做压缩/检索，杜绝原始/全量数据3.每10-20轮对话定期总结，更新情景记忆4.所有上下文必经排序筛选，保留高价值内容六、未来发展方向Context OS、知识图谱式Graph Memory、自适应上下文、支撑长周期任务的Long-Term Agents七、核心结论LLM Agent的核心瓶颈是上下文管理，而非模型本身；管理本质是平衡信息完整性与Token经济性，生产落地关键是以Context Manager为核心，组合各类技术形成标准化处理流程。

一、大语言模型基础1. 目前主流的开源模型体系有哪些？主流开源模型体系包括：LLaMA 系、Qwen 系、GLM/ChatGLM 系、Mistral/Mixtral 系、Baichuan 系、DeepSeek 系、InternLM、Yi 等。面试里建议从以下维度比较：参数规模（7B/13B/70B…）上下文长度（8K/32K/128K…）多语言能力工具调用能力（function calling / agent）推理成本与部署难度开源协议（是否可商用）2. Prefix LM 和 Causal LM 区别是什么？Causal LM：严格自回归，token 只能看左侧历史（下三角 mask）。Pr...