首页 > 试题广场 >

为缓解 Transformer 处理长序列的计算复杂度，下列

[不定项选择题]
为缓解 Transformer 处理长序列的计算复杂度，下列技术可用（多选）： 
  • 仅保留关键位置的注意力（选择性/稀疏）
  • 分层注意力（Hierarchical Attention）
  • 稀疏注意力（Sparse Attention）
  • 扩展正弦/余弦位置编码
查看答案及解析
添加回答

这道题你会答吗？花几分钟告诉大家答案吧！

提交观点

问题信息

难度：
0条回答 8浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号