某科技中厂-AI软开面经

给我面没招了,感觉自己好菜、面试很难,还是要多多练习
1推理引擎解决什么问题?面对什么挑战?
2推理引擎的常见优化方法
3提高推理速度有哪些手段?
4了解其他大模型吗(QianWen、ChatGLM、GPT)
5自注意力机制的流程、数学公式
6GPU相比CPU有哪些不同特性?
7介绍一下GPU的memory
8为什么会有cache?(局部性
9介绍一下grid、block、thread
10核函数执行过程?
11量化的方法和作用
12量化为什么能提高推理速度?
13能从硬件上和算子实现的角度回答吗?
14讲一下shared ptr和 unique ptr的区别
编程:
写reduce_sum的算子
反转二叉树
全部评论

相关推荐

02-28 09:30
门头沟学院 Java
查看14道真题和解析
点赞 评论 收藏
分享
评论
点赞
收藏
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务