实习幻想破灭

1、实时生成的聊天代理模型，如果线上出问题了，怎么定位这种问题一般先按链路拆。如果是实时生成类聊天代理，通常一条请求会经过网关、会话层、Prompt 拼装、模型推理、工具调用、结果后处理和流式返回几个阶段。线上出问题时，先判断是全量故障还是部分故障，是所有请求都失败，还是只有某一类请求延迟高、返回空、内容异常。定位时先看监控和日志。监控上看 QPS、平均延迟、P95/P99、错误率、超时率、GPU 利用率、显存占用、容器重启次数。日志上重点看 request_id，把一次请求链路串起来，看是卡在 Prompt 构造、模型推理、下游工具调用，还是 SSE/流式返回阶段。如果是模型输出异常，要回看...

兄弟姐妹们帮帮看下还有什么可以优化的地方

一共一个小时，面试难度以及自己的回答算是最近的面试压力比较大的，实习问了30分钟，中间穿插八股。1.redis数据结构2.redis持久化机制3.mysql索引底层4.聚簇索引与非聚簇索引5.索引优化6.索引失效7.mysql执行一条sql8.那么多索引mysql怎么选（不会）9.tcp与udp区别10.tcp为什么可靠11.消息队列作用12.kafka怎么保证消息有序性13.mcp是什么？14.skills是什么？15.jvm内存分配与回收过程（我讲了从创建对象到判断垃圾对象到垃圾回收我全说了一遍，是这个吗？）16.fullgc触发机制17.tcp的拥塞控制流程（不会了）18.分布式事务解决方案，说了2pc，3pc，tcc。算法是反转双向链表，没有按格式输出，但是面试官没让继续写了，面完以为挂了，结果晚上秒过，看看复试什么情况吧。今天百度打电话准备发offer了，业务跟在手子的差不多，很垂，并且说不分日常暑期，只看表现，会有转正机会，但是考虑再三还是拒绝了，百度实习薪资确实有点低，title也不如之前了，但是面试的二位业务老师我很喜欢，对我的评价也不错，希望之后能有机会共事。从三月份到现在一共面了六家，面试次数总共是8场，情况如下：脉脉二面（无答复，默认挂）百度二面已oc美团一面过，下周一二面shein一面过直接HR面游族一面过直接HR面腾讯一面过等待约二面滴滴明天一面面试通过率还是蛮高的，但是大部分都是日常，感觉对我现在的加成不大，大概率不会去，不知道暑期会是什么情况呢唉，希望能有面试吧，继续加油。字节被无hc直接取消了，现在还没人捞，有没有字节HR救救我

1. Transformer 为什么使用多头注意力机制，为什么不只用一个头？多头注意力的核心，不是单纯把一个 attention 做很多遍，而是让模型在不同子空间里同时学习不同类型的关系。一个头可能更关注主语和谓语的关系，另一个头可能更关注长距离依赖，还有的头更容易学到局部词序和语义搭配。如果只用一个头，模型也能做注意力，但它只能在一个投影空间里建模，表达能力会受限。多头的做法是先把输入分别线性映射成多组 (Q,K,V)，每组各自做 attention，最后再拼接起来。这样模型就能从多个角度同时看同一句话。公式一般写成：其中：所以多头的本质价值是：增强表示能力，而不是简单重复计算。2. 为什么...