首页 > 试题广场 >

在 LLM 推理中，分组查询注意力（GQA）与 MHA、MQ

[单选题]
在 LLM 推理中，分组查询注意力（GQA）与 MHA、MQA 的对比，下列说法最准确的是： 
  • GQA/MQA 都是降维 Query
  • GQA 通过路由机制为每个 Query 头匹配 K/V 头
  • GQA 拥有比 MHA 更多的 K/V 头
  • GQA 让多组 Query 头共享同一组 Key/Value 头，K/V 数量介于 MHA 与 MQA 之间
查看答案及解析
添加回答

这道题你会答吗？花几分钟告诉大家答案吧！

提交观点

问题信息

难度：
0条回答 4浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号