字节AML二面挂
面的AML的训练/推理框架方向的开发
一面:
手撕:力扣33
进程、线程
pytorch的多机多卡训练
二面:
手撕:力扣208、MHA(pytorch)
pytorch、onnx的优缺点
静态图、动态图、torch.compile
cuda概念、stream、warp等
矩阵乘怎么做、为什么要分块、循环顺序是什么
softmax上下溢怎么处理、flashattention中的softmax是怎么做的
总结:字节的面试官确实都很年轻,面试的时候项目技术等抠的也很细
一面:
手撕:力扣33
进程、线程
pytorch的多机多卡训练
二面:
手撕:力扣208、MHA(pytorch)
pytorch、onnx的优缺点
静态图、动态图、torch.compile
cuda概念、stream、warp等
矩阵乘怎么做、为什么要分块、循环顺序是什么
softmax上下溢怎么处理、flashattention中的softmax是怎么做的
总结:字节的面试官确实都很年轻,面试的时候项目技术等抠的也很细
全部评论
相关推荐
点赞 评论 收藏
转发
投递谷歌等公司10个岗位 >
点赞 评论 收藏
转发