首页 > 试题广场 >

某 12 层 Transformer,hidden size

[单选题]
某 12 层 Transformer,hidden size=768,MLP 扩展比=4,则每层 MLP 参数量约为
  • 18.88 M
  • 9.44 M
  • 4.72 M
  • 2.36 M

这道题你会答吗?花几分钟告诉大家答案吧!