1、实时生成的聊天代理模型，如果线上出问题了，怎么定位这种问题一般先按链路拆。如果是实时生成类聊天代理，通常一条请求会经过网关、会话层、Prompt 拼装、模型推理、工具调用、结果后处理和流式返回几个阶段。线上出问题时，先判断是全量故障还是部分故障，是所有请求都失败，还是只有某一类请求延迟高、返回空、内容异常。定位时先看监控和日志。监控上看 QPS、平均延迟、P95/P99、错误率、超时率、GPU 利用率、显存占用、容器重启次数。日志上重点看 request_id，把一次请求链路串起来，看是卡在 Prompt 构造、模型推理、下游工具调用，还是 SSE/流式返回阶段。如果是模型输出异常，要回看...

听的一个认识的小主播说的，在中大厂工作，身边hr抱怨投的简历里几乎所有都是java，离谱到100份只有3-4是其他的，而且最逆天的是不管招什么岗都差不多。招测开，移动端很有难度，因为java实在太多了。。。然后部门leader还补刀了一句，你们移动端简历的都是后端不要的。感觉分出一点时间多看看一些小主播的真实工作分享，或者向校友多问问真的挺有必要，不能当鸵鸟，我以前完全不知道已经离谱成这样了。现在我感觉真的要认真考虑转移动端了。。。好歹有java知识，也不算从零起步吧。我是28届，还有大半年能完全投入。。。

实习offer又来了，在家无聊的很😭，大家一起加油！！

算法面经：📌【一面】基础八股 + RAG深挖八股：介绍几种Attention（MHA，MQA，GQA）的区别八股：分别讲一下Dense模型和MoE模型以及二者的区别八股：讲一下MoE的路由机制是如何做的？项目：介绍RAG项目，讲一下RAG项目的亮点项目：如果召回的答案不是想要的，该怎么处理？项目：讲一下BM25算法原理项目：是否做过意图识别？如果要做意图识别，可以怎么实现？项目：微调项目是如何模型选型项目：如何做微调的？直接用 PEFT 库，还是用LLama Factory做的？项目：讲一下DPO, PPO, GRPO的原理和区别，写一下DPO loss函数代码题：lc15 三数之和【二面】...