对每个权重独立进行四舍五入量化
基于OBC(Optimal Brain Compression),逐层逐列量化,用Hessian矩阵补偿量化误差
对激活值而非权重进行量化
使用K-means聚类找最优量化中心点
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题