小天才BSP

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

😋😋😋

兄弟们，求锐评。就喜欢听差评。看看我的简历哪里写的差。

很多嵌入式面试，自我介绍刚结束，面试官就会来一句：“挑一个你最熟悉的项目，详细讲讲。”接着往往还有三连：你在项目里具体负责什么？项目里最难的问题是什么，怎么解决的？如果现在让你重做一遍，你会怎么改？这三问看起来都在问“项目”，但本质上考的是同一件事：你有没有真正参与过工程，能不能把问题从现象追到根因，再落到方案、验证和取舍。功能堆再多，讲不清楚“为什么这样做、还试过什么、最后怎么验证有效”，在面试官眼里都接近 Demo 级经历。先说结论：项目面不是背简历，是展示“工程闭环”嵌入式项目面，面试官通常不在找“背过多少名词”，而在判断四件事：项目是否真实 —— 不是你简历上写的那几个关键词，而是你确...