1. 模型训练里你怎么在全参微调和 LoRA 之间做选择这个问题我一般不会只从显存够不够来答，而是会结合任务复杂度、分布偏移程度和上线方式来讲。全参微调的优点是表达空间更大，适合任务分布和原模型差异比较大的场景，比如领域知识很重、输出风格和推理路径都要明显改造的时候，它更容易学到深层适配；LoRA 这类 PEFT 方法更适合成本敏感、实验迭代快、模型版本频繁切换的场景，特别是多任务并行或者多租户配置时，管理上会轻很多。如果任务本质上是在原模型能力基础上做轻量偏移，比如格式约束、领域术语补强、特定工具调用习惯，LoRA 往往就够了。反过来，如果发现训练后模型虽然会答，但深层行为模式改不动，比如推...

总时长35分钟，无手撕，感觉遇到KPI面了，唉35分钟一直在问实习，八股就问了下面的1.redis与数据库的缓存一致性2.redis的zset数据结构3.redis的两个持久化机制4.分布式cap理论5.什么时候ap，什么时候cp6.进程线程协程问怎么没手撕，说一面撕过了，业务是应用宝游戏商城，后面过了还有一面技术面，问面试表现，说挺顺的，可以再关注一下运维数据，然后问转go有难度嘛，就结束了

   😅? 

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...