首页 > 试题广场 >

关于 Transformer 架构组件,准确的是(多选)。

[不定项选择题]
关于 Transformer 架构组件,准确的是(多选)。
  • 正弦位置编码是专为相对位置设计
  • 多头注意力将 Q/K/V 投影到多子空间学习不同依赖
  • FFN 为序列每个位置学习独立一套权重
  • RMSNorm 省略减均值,仅按均方根归一并线性缩放

这道题你会答吗?花几分钟告诉大家答案吧!