难绷高德

没人带不等于没价值。先给自己设 2–4 周观察期：是否能接触真实业务、学到可迁移能力、获得反馈。若长期打杂、无成长、无输出，及时止损是成熟；若能自驱补齐、积累成果，苟住也是修炼。

因为老是有hr偷看我简历，然后老是搞推理框架和算子优化的，我决定从头学一遍并且总结出来。不搞芯片的不用学，这个吃学历和顶会的。也就是为什么我从一开始没搞这个，但是又收到了中科院和香港实验室之类的邀请。现在学好像有点晚了。。。。算啦，搞一下吧。然后其实你们看到的稿子都是我写剩下的，一般都是写好几篇到点就发的。本文需要先看了上期讲芯片的看了才容易点。那么正式开始吧，本文的话还是按照vllm举例，因为时间有限，我和你们的时间都有限，所以我只讲最简单，最通用的东西，第一点：基本上所有的推理优化都是优化Tensor Cores,第二点：其他的SM架构，cuda cores无法被优化，这个是硬件，vllm...

1-项目深挖1.1-背景及必要性1.2-分析方法：为什么用DID1.3-xx能撬动业务LT，为什么没撬动大盘LT1.4-如何权衡不同指标的冲突2-怎么做异动分析3-AI工具3.1-元宝和豆包的优缺点3.2-个人偏好及原因3.3-对元宝的改进建议4-作为DA，如何分析次日留存下降5-SQL和python5.1-使用频率及应用场景5.2-现场出题：连续登录3天的用户ID6-反问

1.八股：请分别说说你对 DeepSeek-V3 和 DeepSeek-R1 的理解，它们在架构或训练策略上有何关键差异？2.八股：Qwen系列基座模型的结构是怎样的？它的 Attention 和 FFN 层是如何设计的？3.八股：训练一个 8B 参数的大模型，大概需要多少显存？如果显存不够，你会用哪些技术缓解？4.项目：你们在 RAG 应用中是如何做效果评估的？具体用了哪些指标？5.项目：如果 RAG 系统输出错误答案，你怎么判断是检索模块的问题，还是生成模块的问题？有没有设计过归因实验？6.项目：你们是否专门训练了用于 RAG 场景的生成模型？它和通用基座模型在评估维度上有什么不同？7.项目：在 SFT 阶段，你们如何设计不同来源数据（如通用指令、垂域问答、CoT 数据）的配比？依据是什么？8.项目：针对垂域场景，模型效果如何评估？除了人工评测，有没有尝试自动化或半自动的评估方案？9.代码题：LeetCode 72 编辑距离