字节商业产品与技术

一面一来介绍了一下面试流程，然后开始基于项目进行提问1.接口请求策略，网络请求+离线计算双模式，代码逻辑是什么样的？2.追问，既然能本地算，为什么要走网络请求？3.追问，如果网络请求拿不到，走本地计算会有什么后果吗？4.简单介绍一下这个项目的背景吧？给谁用的？用来干什么？5.第二个项目是给谁用的？6.如果不小心在考试过程中刷新了页面，你是怎么保证倒计时不重置，以及考试状态不丢失？7.答存本地，刷新之后在重新获取。面试官追问，要是把缓存清掉不就没了？再答，那应该是存在后端会比较好8.SSE和WebSocket的本质区别是啥？9.追问，那你为什么在对接deepseek的时候选择了SSE？实时聊天的...

我朋友接了美团，后面又拿了字节，跑去字节提前实习，天天抑郁症，天天内耗，哎，字节毁了一个年轻人，哎，还不如去美团蹲着

😋😋😋

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...