AI infra

AI Infra 是未来 5–10 年非常确定的岗位方向之一，而且相比纯算法岗，门槛更工程化、需求更大、年龄更友好。AI Infra 技能栈你可以把技能栈理解为 4 层：第1层：基础工程能力（必须）这是门槛：LinuxPython / Go计算机网络操作系统DockerKubernetes数据库（MySQL / Redis）分布式系统基础API开发（FastAPI / Flask）并发 / 异步 / 队列（Kafka / RabbitMQ）这一层本质是：后端工程师能力第2层：AI工程能力这一层开始进入 AI Infra：PyTorch 基础模型推理（inference）模型部署（TorchSe...

问简历 cutlass2.0 怎么实现grouped gemmfa3和fa4区别blackwell和hopper比有什么变化hang都有可能因为什么，分别要如何排查CUDA_DEVICE_MAX_CONNECTIONS能干什么，和launch bound什么关系寄

项目深挖很多，也聊到了互联和软件硬件协同最近面了一场阿里云的 AI Infra 二面，整体感受是，这轮不是那种偏八股或者偏刷题的面试，更像是围绕项目经历一路深挖，看你到底有没有真的做过优化，也看你对自己后面想做的方向是不是足够清楚。开头还是常规自我介绍，我主要讲了自己现在在做的方向，包括 AI Infra、异构计算、底层性能优化，以及一些算子开发、图优化、推理优化相关的经历。后面的问题也基本都是顺着这些内容往下展开。前半段主要是在深挖项目。面试官先问了我现在做过的几类事情，我把内容归成了三块：一块是算子优化，一块是算子融合和图优化，还有一块是一些稳定性问题和 bug 修复。这里他问得比较细，不...

还能这样？直接把面试取消了。为啥呀