字节校招 AI infra后端面经
继续来分享下之前的面经~欢迎友好讨论,信息共享
1.项目拷打
2.大模型推理加速办法
3.压缩量化方法有哪些 量化的优点有哪些
4.权重量化、激活值量化、kv cache量化都有什么好处
5.kv cache原理 了解page attention吗 为什么效果好
6.了解prefix cache吗
7.ai应用(agent)的构建大致讲一下包含哪些模块
8.手撕 一个环有10个点0-9,0开始出发,每步顺时针或逆时针走一个点,求经过n步回到0点有多少种不同走法
1.项目拷打
2.大模型推理加速办法
3.压缩量化方法有哪些 量化的优点有哪些
4.权重量化、激活值量化、kv cache量化都有什么好处
5.kv cache原理 了解page attention吗 为什么效果好
6.了解prefix cache吗
7.ai应用(agent)的构建大致讲一下包含哪些模块
8.手撕 一个环有10个点0-9,0开始出发,每步顺时针或逆时针走一个点,求经过n步回到0点有多少种不同走法
全部评论
相关推荐
查看15道真题和解析 点赞 评论 收藏
分享
