蛇年大吉

1、实时生成的聊天代理模型，如果线上出问题了，怎么定位这种问题一般先按链路拆。如果是实时生成类聊天代理，通常一条请求会经过网关、会话层、Prompt 拼装、模型推理、工具调用、结果后处理和流式返回几个阶段。线上出问题时，先判断是全量故障还是部分故障，是所有请求都失败，还是只有某一类请求延迟高、返回空、内容异常。定位时先看监控和日志。监控上看 QPS、平均延迟、P95/P99、错误率、超时率、GPU 利用率、显存占用、容器重启次数。日志上重点看 request_id，把一次请求链路串起来，看是卡在 Prompt 构造、模型推理、下游工具调用，还是 SSE/流式返回阶段。如果是模型输出异常，要回看...

鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐鼠鼠好唐

忽然收到了面试邀请 有没有友友有面经分享 投了这么多 第一个面试机会

免责声明：以下内容是我语音输入，让我的 ChatGPT 总结整理的题解思路，仅做简单复盘分享，可能存在理解偏差。下面先给出四道题 相对标准化的题干描述。如果你只是想练习，可以先只看题干部分，不要往下翻题解。题目一：主播排序给定 N 个直播片段，每个片段包含以下信息：uid：主播编号A：指标 A（越大越好）B：指标 B（越大越好）T：时间（越早越好）index：输入顺序（越早越好）排序规则如下：A 越大越好若 A 相同，则 B 越大越好若 A,B 相同，则 T 越早越好若 A,B,T 都相同，则 index 越小越好现在需要：对于每个主播，只保留其 最优的一个直播片段使用每个主播的最优片段对 主...