模型直接报错无法处理
注意力分数的旋转频率超出训练范围,导致位置感知失效,长文本理解能力大幅下降
KV Cache溢出导致OOM
生成速度线性下降
这道题你会答吗?花几分钟告诉大家答案吧!
扫描二维码,关注牛客网
下载牛客APP,随时随地刷题