网易AI infra校招二面 1h

发发面经攒点人品,祝大家都能拿到满意的Offer!
1. 项目深挖
2. 算力决定因素(时钟频率/SM数/计算单元数/精度格式)
3. FP8格式差异(E4M3高精度窄范围 vs E5M2宽动态范围)
4. 矩阵乘算术强度:M×K×N 次乘加,访存 MK+KN+MN
5. 场景题;通信与计算优化:
uint数组通信压缩:uint32→uint16
6. 场景题:流水线重叠,计算总时间
7. 场景题:合并访存实践:32×32矩阵求和 → 按行访问(连续)优于按列(非连续)
8. 有哪些评估模型效果的指标:
延迟(TTFT/TPT)、吞吐量、GPU/内存利用率、失败率
9. Decoder-only架构
10. CUDA Core vs Tensor Core适用场景
11. 手撕:行TOP1 CUDA实现(shared memory归约 + 多行优化)
12. 给出一段代码找优化方法
全部评论

相关推荐

算法题: 1- 快排,寻找两个正序数组的中位数,下一个排列,二叉树中的最大路径和,Path Sum III2- 给定若干点的数轴坐标数组和固定数量的等长线段,问该线段最少要多长才能覆盖所有点3- 前k个高频字符串,词频一样时按字典序升序排列4- 给定初始字符串s,每次将字符串向右旋转一次,并将旋转后的字符串拼接到原字符串的末尾,每次操作都会使字符串的长度变为原来的两倍,求计算出无限扩展后的字符串中第 N个位置的字符5- 两根手指放在26个小写字母组成的键盘上,最少移动多少距离才能敲出给定的字符串sorch手撕题:MHA * 3,Flash Attention v1,flow matching model采样的伪代码ai infra或算法八股:1- flow matching模型预测的是什么,怎么理解conditional velocity (conditioned on data sample x0)2- 如何计算QwenImage的time shift3- 介绍Flash Attention的原理和实现思路4- GPU matrix transpose使用shared memory的好处5- CPU按列遍历一个行优先的矩阵相比按行遍历为什么性能会变差,具体是因为哪个性能指标变差导致的6- weight-only量化有哪些,实现weight-only量化cuda kernel时如何优化访存,是否了解Marlin kernel7- Megatron SP的实现方式8- DeepSpeed ZeRO stage1和stage 2的通信量区别,论文和代码实现有没有gap9- 多GPU通信时NVSHMEM和NVLink的区别
查看15道真题和解析
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务