权重量化为 INT4
低秩更新 r 很小且与原乘法并行融合
仅训练期生效,推理期完全丢弃
低秩矩阵乘法可离线编译入权重
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题