AI infra独角兽公司一面

1. 当训练推理卡规模倍增的情况下,最容易产生瓶颈的位置可能是什么
  a. 请展开分析产生的原因
  b. 对于此类问题,有什么优化或者缓解方案
2. 请解释并介绍一下 Roofline 模型,如何判断性能已经达到计算瓶颈
3. 在 C++中,若数组越界写使得其他的数据结构被写坏了,工程现场保留了 coredump 文件,你应该如何排查这个错误
4. 请介绍一下你理解的 Flash-attention
5. 当进行 GEMM 计算时,一定可以保证它是一个计算瓶颈算子吗,如果要你去优化它,你的思路是什么。
6. 对于性能优化的定位和瓶颈的检测,你有什么方法吗
7. 手撕:手写包含 GQA 的 attention 模块实现

#面经##infra#
全部评论
佬面的是minimax吗?怀疑我们碰到了一个面试官,第三题他也问过我。后续我二面挂了
2 回复 分享
发布于 2024-08-28 00:09 上海
佬,请问ai infra怎么入门呀,研0在纠结ai infra和搜推中
点赞 回复 分享
发布于 02-11 23:47 山东
我测是真难啊 佬现在有拿到offer了嘛
点赞 回复 分享
发布于 2024-11-19 17:23 北京

相关推荐

06-23 18:17
重庆大学 C++
请问下🐮🉑的网友,在全网就只找到了个tinywebserver。想问问这个项目质量怎么样?目前还没有做过其他cpp项目。如果这个质量不行的话,有推荐的其他项目吗?
某公司一颗钉子:可以看看这几个项目 web多人聊天:https://www.bilibili.com/video/BV1iYtrezEkA/ 仿微信聊天:https://www.bilibili.com/video/BV1XukbYmEY5/ 多线程任务队列系统:https://www.bilibili.com/video/BV1XS9dYsE9d/ RPC项目:https://www.bilibili.com/video/BV176Niz8ENj/ 云存储:https://www.bilibili.com/video/BV1XPfTY8EGD/
点赞 评论 收藏
分享
评论
5
28
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务