理想大模型推理日常 一面

1. 自我介绍2. 挑一个你最熟悉的大模型项目，讲讲它的目标，你主要负责什么，以及你觉得最有意思的技术点。3. 在Transformer的Decoder里，我们为什么需要用Mask把未来的信息“遮住”？从代码实现上讲，这个Mask具体是怎么作用在Self-Attention分数上的？4. 关于LayerNorm放在残差连接的“前面”还是“后面”（Pre-LN vs Post-LN），社区里有很多讨论。这两种设计选择，主要会影响训练过程的哪些方面？你更倾向于哪一种，为什么？5. 我们要在线上部署一个大模型提供服务，推理速度和吞吐量是个大问题。像vLLM这样的工具，它主要是通过什么核心思想（比如P...

1，vllm推理过程中哪些参数可以调优，结合经验来说。2，kafka避免重复消费，以及结合spark和flink讲讲定时任务3，服务的容错，docker和k8s4，python的装饰器和生成器5，GIL锁，多进程和多线程的区别6，http实现负载均衡的算法7，大模型的并行方式，多卡并行，张量并行，数据并行，流水线并行8，给定两个单词一个转换成另一个，只用删除插入和替换，返回最小操作数，以及打印每一步操作debug了快半小时才搞出来，现场丢人。

📍面试公司：小鹏🕐面试时间：2025.8.27💻面试岗位：大模型算法工程师❓面试问题：1.手写🍣一个shuffle函数，要求时间复杂度为O(1)（磕磕绊绊搞了25分钟）2.讲讲旋转位置编码有哪些，旋转位置编码的原理？3.为什么位置编码可以和Embedding直接相加？3.BN和LN的区别4.讲讲PageAttention？5.如何评价一个推理系统的吞吐量，QPS承压？6.由上个问题引出了论文介绍，扒拉扒拉介绍一同，就没再问了。🙌面试感想：面试官人很好，没思路会提醒，很细致耐心地讲解一些他的理解。祝他工作顺利，好运常来。

这什么鬼 发错了？ 面试前一秒钟发邮件