首页 > 试题广场 >

以下关于Flash Decoding的描述，正确的是？

[单选题]

Flash Decoding是FlashAttention在encode阶段的优化版本

Flash Decoding针对decode阶段的long context场景，通过在sequence length维度并行化KV Cache的读取来提升速度

Flash Decoding用稀疏注意力替代了完整注意力计算

Flash Decoding只适用于单请求推理，不支持batch推理

查看正确选项

这道题你会答吗？花几分钟告诉大家答案吧！

提交观点

问题信息

推理

难度：

0条回答 3收藏 20浏览

扫一扫，把题目装进口袋