ai infra实习 阿里云面经

一、市场上到底要什么人？去招聘网站搜“大模型”，JD看一圈就会发现，岗位其实就三类：① 基模方向：预训练、模型架构、scaling law门槛：顶会paper or 名校博士结论：有就有，没有就别强求，不是几个月能补的② Infra方向：分布式训练、GPU集群、推理加速门槛：扎实的系统底层能力结论：你们组是做这个的就可以冲③ 应用层方向  这是大多数人的机会！不动模型：RAG、Agent动模型：SFT、RL（RLHF/RLAIF） 0基础同学能在4个月内真正拿到offer的地方，就是应用层二、技能要会在点子上，别被概念带偏现在各种概念满天飞，A2A、MCP、GraphRAG...每周都有新名词...

被狠狠拷打了，发点面经攒攒人品1.什么是cudagraph。为什么cudagraph会用到更多的显存。推理的什么阶段更适合cudagrapho2.讲跨block的内部通信，warp原语。举一些warp原语的例子，讲讲都是什么。3.讲一下对nv芯片的ptx机器模型的认识。4.讲讲对cuda代码编译流程的认识。5.讲讲MLIR，以及为什么要设计MLIR出来6.手撕:归并排序

之前团队在做合同审查和研报问答两个 RAG 项目，踩了不少分块（Chunk）相关的坑。今天把这块经验整理一下，希望对正在做类似事情的朋友有点帮助。先搞清楚 Token 这个概念做 Chunk 之前，得先理解 Token。很多人把 Token 简单等同于"字"或"词"，这不太准确。Token 是模型实际处理的最小单元，中文大约 1.5-2 个字对应一个 Token，英文则大约是 0.75 个单词一个 Token。这件事为什么重要？因为不同类型的文档，Token 密度差异很大。我们实测过：一份 20 页的中文合同，大约 8000-12000 个 Token；...

还是要再接再厉啊！！面了差不多四十分钟左右1. 项目问题2. 内存布局（栈/堆/静态区）、new vs malloc、深/浅拷贝3. 智能指针（unique_ptr/shared_ptr/weak_ptr）、虚函数与抽象基类4. 内存对齐规则与结构体大小计算5. 右值引用与移动语义6. SIMT架构（thread→block→grid）、寄存器分配（局部变量）7. 优化手段：shared memory复用、warp shuffle、向量化加载（float4）8. bank conflict成因与padding规避9. 缓存原理（局部性+LRU替换策略）10. 编程题：Top-K高频元素（哈希表 + 最小堆）