美团 大模型应用算法 一面凉凉

1. 介绍下你实习学了什么 做过什么项目,为什么离职的2. MoE 为什么能在参数量很大的情况下还能把训练和推理成本压住，真正难点在哪MoE 的关键不是“参数变多了”，而是“每个 token 只激活一部分参数”。也就是说总参数量可以做得很大，但单次前向只走少数几个 expert，所以理论上计算量不会随着总参数线性增长。这个思路在大模型里很有吸引力，因为可以同时兼顾容量和成本。但真正难的地方是路由和负载均衡。路由器如果只偏爱少数 expert，训练会很不稳定，热门 expert 被打爆，冷门 expert 学不到东西。另一个难点是通信开销，尤其多机训练时，token dispatch 和 gat...

祝大家都能拿到满意的Offer！1.项目拷打2.你们这里说的分层混合编排式 Agent 架构设计是具体怎么做的3.我问一个就是你们在Routing那里，你会根据难度去做不同的一个处理，对吧？那你们这个难度是怎么划分的呢4.你刚才提到就是说，比方说如果刚开始有动态升级的一个范式，就是比方说这个任务刚开始被分配到了7B但是如果它在生成的过程当中，置信度或者说生成的结果它的置信度比较低，你们这个置信度是怎么生成的呢5.你们大概配备了多少个工具6.以风险评估为例，你们的输入输出分别是什么呢7.你的字段是什么8.比方说你说的收缩压这个字段，在用户的问题当中可能不会有这样的一个检测数据。那这种情况你们是怎么来处理呢9.我看到你这里有说在引入了应用层的MOE按照任务动态的激活专家路径，这个具体是怎么实现的呢10.这里就有个问题，我们针对不同的科室去训练一个微调专家，那你们是你们怎么训练的呢？怎么针对于不同科室去训练的，第二个问题就是逻辑上你们这个专家数量可不会少，然后你们的工作量会比较大，这个问题你们又是怎么解决的呢11.你们最终大概是用了多少个专家12.每个大概训练的数据量是多少呢13你们的这个70b模型用的是自己？从头开始预训练的吗？还是用的开源的14那你们医疗数据你们医疗数据的主要来源是在哪里呢？

1. 项目里是把 skill 直接塞进 system prompt 的，如果 skill 太多，占用上下文窗口太大，怎么处理不能把所有 skill 常驻塞进 system prompt，这样会带来三个问题：上下文窗口被占满、候选技能噪声太大、模型在选择 skill 时更容易混淆。更合理的方式是把 skill 做成外部注册表，system prompt 里只保留最小规则和调用协议，真正的 skill 描述按需动态注入。常见做法是先做一层 skill routing。可以用规则、分类模型或者向量检索先筛出 topk skill，再把这几个 skill 的 description、参数 schema...

如果替代不了初级的还要AI干什么，以前是核心功能正式员工写，边际的杂活，没什么技术含量的活交给实习生。现在都AI coding做了90%的代码工作，以后程序员的要求肯定更高，不仅只懂代码，还要懂业务，懂运维，懂测试一条龙吧，最重要是发现需求吧。vibe coding 目前如果交给啥都不会的人也弄不出来什么实际有人用的运行的项目，还需要进一步发展，如果真的啥都不懂的小白利用vibe coding也能做出企业级项目那才是真是末日了。不说他中间通过AI理解项目技术啥的这也算懂点了，就说那种啥都不懂的直接描述一下就能做出来。总之时代车轮滚滚向前，加油吧程序员。