米哈游内推 米哈游内推码

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

小米top2简历全挂（但我同学已oc）

前两天多多收到了刚过机考的候选人复盘，他机考365.83分，排前22%，已经顺利进入下一轮了。我把三道真题的考点和解题思路整理出来了，希望对正在准备机考的同学有帮助：一星题1：循环内存存取计算考点：环形缓冲区 + 内存对齐 + 区间重叠判断解题要点：写指针对齐到align的整数倍（注意绕回0）计算写入后的结束位置判断是否覆盖未读区间（read_index ~ write_index）能放下返回新写指针，否则-1容易踩的坑：对齐后等于capacity要绕回0write_index == read_index 时缓冲区为空，可以写入绕回写入时，两段都要检查是否与未读区间重叠一星题2：美观的灯笼考点...