顺子真是整活小能手

LVS(Linux Virtual Server)一、介绍LVS 全称 Linux Virtual Server，是 Linux 内核层实现的高性能、高可用 的负载均衡集群技术，由章文嵩博士开发，目前是 Linux 内核的标准模块 之一。它的核心作用是将前端的请求流量分发到后端多台真实服务器 （Real Server）上，从而提升服务的并发处理能力和可用性。 二、LVS概念VS：Virtual Server（调度器）RS：Real Server （真实业务主机）CIP：Client IP （客户端主机的ip）VIP: Virtual serve IP VS外网的IP （对外开放的让客户访问的i...

2年了

timeline3.9投递3.19一面3.31二面4.1告知二面通过免三面4.2hr面4.3oc人生第一次面试就是字节，没想到最后竟然能oc。（ 免三面真的很意外😳）

这个面经是群里 小伙伴分享的 社招, 2年的工作经验 双非本9硕 将近40分钟都在问项目细节 项目这里我全部砍掉了1. 自我介绍2. 大模型在推理时通常分哪两个阶段，每个阶段关注点是什么一般分成 prefill 和 decode 两个阶段。prefill 阶段主要是把输入 prompt 一次性编码进去，重点看吞吐、并行效率和长序列的计算开销；decode 阶段是逐 token 生成，重点看单步延迟、KV Cache 复用和 batch 调度效率。很多线上推理慢，不是模型本身慢，而是 prefill 太重或者 decode 阶段调度策略不合理。理解这两个阶段，才能知道为什么有些优化只对长输入有效...