ai infra实习 阿里云面经

一、市场上到底要什么人？去招聘网站搜“大模型”，JD看一圈就会发现，岗位其实就三类：① 基模方向：预训练、模型架构、scaling law门槛：顶会paper or 名校博士结论：有就有，没有就别强求，不是几个月能补的② Infra方向：分布式训练、GPU集群、推理加速门槛：扎实的系统底层能力结论：你们组是做这个的就可以冲③ 应用层方向  这是大多数人的机会！不动模型：RAG、Agent动模型：SFT、RL（RLHF/RLAIF） 0基础同学能在4个月内真正拿到offer的地方，就是应用层二、技能要会在点子上，别被概念带偏现在各种概念满天飞，A2A、MCP、GraphRAG...每周都有新名词...

被狠狠拷打了，发点面经攒攒人品1.什么是cudagraph。为什么cudagraph会用到更多的显存。推理的什么阶段更适合cudagrapho2.讲跨block的内部通信，warp原语。举一些warp原语的例子，讲讲都是什么。3.讲一下对nv芯片的ptx机器模型的认识。4.讲讲对cuda代码编译流程的认识。5.讲讲MLIR，以及为什么要设计MLIR出来6.手撕:归并排序

之前团队在做合同审查和研报问答两个 RAG 项目，踩了不少分块（Chunk）相关的坑。今天把这块经验整理一下，希望对正在做类似事情的朋友有点帮助。先搞清楚 Token 这个概念做 Chunk 之前，得先理解 Token。很多人把 Token 简单等同于"字"或"词"，这不太准确。Token 是模型实际处理的最小单元，中文大约 1.5-2 个字对应一个 Token，英文则大约是 0.75 个单词一个 Token。这件事为什么重要？因为不同类型的文档，Token 密度差异很大。我们实测过：一份 20 页的中文合同，大约 8000-12000 个 Token；...

历时80分钟，全程被面试官笑着拷打。。。1.自我介绍2.上来两道算法题要求30分钟，一是树的层序遍历，而是数组的深度遍历（ [1,2,3] 输出[1,3,2],[1,2,3],[2,3,1],[2,1,3] [xxx]）3.说说你了解的比较熟悉的技术栈3.实习觉得做的比较自豪的事情4.实习时候的数据的准确率和及时性怎么保证的5.怎么理解元数据的，怎么完善数据资产/血缘的6.rag怎么做的7.说说进程和线程区别，线程是不是越多越好8. cpu内存访问的流程9. tcp为什么三次握手不是两次？10. tcp拥塞控制了解吗11.  https相比http具体还用了什么协议？12  输入一个网页地址发生了什么？13 索引失效的例子14 怎么判断sql是否慢，命中了索引没有？15 了解数据库里面的binlog reglog之类吗16  了解协程吗？（只了解携程。。。。）17  说说大模型和agent区别，mcp和function call 区别18  skill和之前的提示词工程有啥区别19  对ai未来的看法面试官知道我是搞数开的没问啥java后端方面的技术，而且一直跟我说没关系，再加加油吧