科大讯飞测试

打开GitHub搜“AI应用”，跳出来的结果是不是都差不多？又一个RAG知识库问答 📚又一个ChatGPT套壳网站 💬又一个LangChain文档加载器 🔧代码换了个写法，README换了个排版，但内核一模一样。更扎心的是：你跟着教程吭哧吭哧做出来的东西，和另外100个求职者简历上写的，几乎没有区别。面试官看多了，审美疲劳 😮‍💨 你也知道这项目拿不出手，但不知道该做什么、能做什么。🤔 为什么市面上的项目都“长一个样”？因为教程教的，都是“标准答案”。教程教你搭RAG → 大家都用LangChain + Chroma + OpenAI教程教你做Agent → 大家都用ReAct模式...

😫😫😫

继上次三方毁约后，又拿到了腾讯社招offer

这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...