求云智面经

最近读了腾讯写的文章，简单自己做了下总结和理解，又有了新的输入，不愧是腾讯👍 一、学到的核心知识 1. 大模型推理的两大基石  Continuous Batching（连续批处理）：传统批处理要求一个 batch 内所有请求"同时开始、同时结束"，但 LLM 输出长度不可预测，会浪费 GPU。vLLM 把调度粒度从 request level 下沉到 token level——每一步看哪些请求"差几个 token"，就调度几个 token，把短请求填进 batch 的空隙里。 Paged Attention：传统做法一次为请求申请全部显存，碎片严重；P...

28届找日常实习相当焦虑，求各路大佬指点

已拉黑：美团，百度，米哈游已点赞：快手，网易，众安，字节跳动，蚂蚁ttl：3.16投递-3.25 一面-3.30 二面-3.31 hr面-4.2 oc

美团耐面王又来了，上次一面挂后，隔了一个多星期才在昨天周三给我捞起来，约的今天下午面试，想延期都不行，赶鸭子上架面了，正好还赶上目前公司的周会，跟面试官姐姐通融了一下终于是在迟到了5分钟的时候顺利开面。部门是基础研发平台，具体业务是服务器相关的一些开发，可能还要包括一些运营的工作，ai相关的部分可能就是一些智能客服项目。这次没录音，只能想起部分题目1.你本硕都是网络安全出身，怎么会想到走java开发呢？2.你这个工作流平台主要能用来解决什么问题？3.DAG是什么，为什么要进行检测？4.策略模式和模版方法在项目中到底是如何应用的？5.agent的特点有哪些？6.如果让你继续改造现有的工作流项目为...