记录跨度一个月的字节凉经

📍面试公司：深信服🕐面试时间：9.28💻面试岗位：ai应用开发 4面（总裁面）❓面试问题：1.自我介绍（我以为总裁不懂技术，就略了很多技术细节，没想到总裁对技术懂得挺多的）2.询问成绩名次和奖学金3.为什么会想去算子、模型推理这些的？（因为deepseek在ai-infra做了很多创新，可以降低成本）4.面试官打断我，说我说的不对，deepseek在这方面做的很差（我也不清楚，但是网上不都是说deepseek 引爆ai infra，压的成本很低吗？）5.你说下deepseek做了什么（训练并行、通信、多租户、负载、PD分离）6.PD分离解释一下7.注意力机制的公式写一下8.分母是干什么的9.Q* K^T是在做什么（我说了半天，他都不满意）10.讲一下引以为豪的算子（softmax）11.你说一下你的softmax和别人的有什么区别？（？）12.写一下softmax公式（这个我写的绝对是对的，面试官拿拿手机搜了，说我写的不对，我写的是带 max的）13.说一下softmax做的什么？14.手写一下，你的softmax怎么做的？（把flash attention的实现写了一下）15.你画一下n卡存储都有什么16.在这个图上讲你的softmax的实现17.怎么调用GPU函数，<<<>>>里面参数是什么意思18.你这个是怎么减少通信的，代码如何实现的？手写一下19.解释一下kv cache20.通讯库了解多少（我说多卡用的少）21.单卡也有通讯库啊，你可以讲一下吗22.手撕：你有1 2 4 8 16……的钱（每种钱有两个），让你求所有可以支付的金额，并且要把支付方式都打印出来。（我写的是背包+记忆化）23.你有什么兴趣（读书，健身）24.你最近看的一本非技术的书是什么，书名是什么，作者是谁（艹，其实我好久没看了，说了前一段时间看的，一本讲怎么和别人交谈的书，书名和作者我都说不上来）25.为什么记不太清（找工作太慢，上个月看的），为什么找工作会忙（我今天在这线下面了5个小时，你说为什么忙?）反问：1.工作地点，我想去北京🙌面试感想：面试快结束的时候，面试官给我说，他是管理整个ai infra部门的，今年秋招以来第一个看到ai infra面试的人，不过深信服 ai infra都在深圳，我去的几率确实不大，直接明说去北京了真的没想到，总裁面会问这么多技术，而且总裁看上去得50-60+了。后面说可能还要给我再加一场5面，专门问ai infra。