我自己在搞 AI Infra/HPC，有两个一直在维护的仓库：一个是用 C++/CUDA 从零写的深度学习框架：OriginDL另一个是工作中一点点积累下来的 AI Infra/HPC 知识地图：ai‑infra‑hpc链接先丢这儿，感兴趣可以先 star 了再说：https://github.com/jinbooooom/OriginDLhttps://github.com/jinbooooom/ai-infra-hpc如果你是刚开始找工作，或者准备投大模型 AI Infra/HPC 方向的岗位，可以把下面这份当成一个「复习清单」：面试高频会围着哪些点打转、我当时是怎么系统整理的、以及怎么用...

祝大家都能拿到满意的Offer！1.实习介绍2.对岗位的理解3.Qwen模型占了多少内存，在上一段实习中如何部署的4.介绍模型量化和Flash attention，实际优化效果如何5.介绍Tensorrt，底层方面如何加速6.是否了解vllm框架，追问PagedAttention7.介绍实验室项目，模型参数量计算量怎么算的8.Pytorch核心的基础功能是什么，有试过Pytorch对GPU进行管理吗9.模型训练和推理在资源、消耗上的区别，是否了解模型训练过程中性能优化的手段10.GPU和CUDA有了解吗，GPU基础的物理执行单元是什么11.手撕力扣hot100：将有序数组转化为二叉搜索树

一、市场上到底要什么人？去招聘网站搜“大模型”，JD看一圈就会发现，岗位其实就三类：① 基模方向：预训练、模型架构、scaling law门槛：顶会paper or 名校博士结论：有就有，没有就别强求，不是几个月能补的② Infra方向：分布式训练、GPU集群、推理加速门槛：扎实的系统底层能力结论：你们组是做这个的就可以冲③ 应用层方向  这是大多数人的机会！不动模型：RAG、Agent动模型：SFT、RL（RLHF/RLAIF） 0基础同学能在4个月内真正拿到offer的地方，就是应用层二、技能要会在点子上，别被概念带偏现在各种概念满天飞，A2A、MCP、GraphRAG...每周都有新名词...

整体面试还是不错的，但是没后续了，不知道是哪里出了问题1. CPU vs GPU vs NPU优化差异，对应场景题2. 手撕CUDA编程：在 uint8 数组中找第 K 大的值3. 手撕二叉树最右节点4. 对自动驾驶领域的了解