大模型面经每日总结

#面经#  #大模型# #量化#
网易大模型量化面经

0.常见的量化方法有哪些?
原理及适用场景,并分析它们在计算复杂度和精度损失上的差异
1.PTQ 和 QAT 咋选?
2.低比特量化在智能音箱能用吗?
3.语音识别量化有啥难题和办法?
4.模型量化和其他压缩技术配合经验

5.QAT中,量化噪声模拟的作用是什么?
6.在多头注意力机制 前馈神经网络 ,量化策略有何不同?
7.针对 ARM 架构的芯片 如何优化量化模型的推理速度?
全部评论

相关推荐

昨天 12:39
已编辑
门头沟学院 Java
点赞 评论 收藏
分享
评论
1
2
分享

创作者周榜

更多
牛客网
牛客网在线编程
牛客网题解
牛客企业服务