📍面试公司：美团🕐面试时间：2025-08-14，菜只因秋招处女面💻面试岗位：北斗计划-基座大模型推理引擎工程师BG：末9本，中科院硕，和组内课题不相关❓面试问题：自我介绍：一分钟完事1.介绍一下Transformer的架构，和传统RNN循环神经网络相比有何优势2.Transformer中参数都分布在哪里，参数量最大的是哪部分？计算量最大的是哪部分，为什么？3.了解GPU的cuda core、Tensor core吗，你常用的GPU有哪些，他们的显存和显存带宽有多大4.讲讲大模型的量化5.为什么需要PD分离技术6.讲讲PageAttention和Continous Batching技术7.讲讲cuda编程8.了解DeepSeek 的MLA机制吗？详细介绍一下和MHA、GQA、MQA的区别9.介绍一下DeepSeek MoE架构10.详细介绍一下各种并行方法，TP、PP、DP是什么11.为什么说Prefill阶段是计算密集型的，为什么Decode阶段是内存密集型的？无寿司🍣，感觉是回答的太烂了，30分钟结束。反问：从刚才的面试来看，感觉是不是做底层系统优化比较多，是不是CUDA编程很多？答：也不全是。主要综合来看，不是一定要掌握CUDA编程，但是作为大模型开发而言，CUDA编程肯定要学的，🙌面试感想：和蔼，有几道问题给我解释了；开始开了摄像头，后期关闭了摄像头；大模型八股偏多，依据简历问的，没问项目，我的项目是RAG，可能跟岗位关系不大，所以没问。

投了三一中能的软件开发工程师，目前到了分配简历-已分配至事业部职位。

1. 激活函数应该满足什么2. python修饰符3. 用过CUDA写算子吗4. 项目，简历里写了大模型相关，会问相关问题，RAG，微调，数据清洗，vLLM（pageAttention)。容器化部署。5. torch你了解多少6. 反问记得的就这么多，应该前面有共性问题，大部分会问项目。对于技术栈，会问你掌握到什么程度。比如CUDA算子，你是会写，还是会调用，还是会更底层的优化。面试官比较友好，对于你不熟悉的地方，不会再追问。但对于你自述熟悉的地方，会问比较深。该岗位，是对目前一些主流的项目（torch、vLLM等），在自研GPU上的适配（应用层，底层计算库已有），需要对python，这些框架有一定的了解。

一、基础算法与数据结构区间最值：设计数据结构，支持 O(1) 查询（Segment Tree / Sparse Table）。线程安全队列：如何在并发场景下实现？锁 vs 无锁。二、机器学习与深度学习Transformer 机制：自注意力计算公式、复杂度，KV Cache 的作用。优化器对比：SGD / Adam / AdamW 区别，为什么大模型常用 AdamW？三、大模型推理与优化量化原理：INT8、FP16、FP8、4bit 的差异，精度掉点怎么处理。CUDA/TensorRT 优化：矩阵乘法如何优化？（对齐、向量化、shared memory 等）。四、系统与工程能力分布式训练/推理：...