首页
题库
面试
求职
学习
竞赛
More+
所有博客
搜索面经/职位/试题/公司
搜索
我要招人
去企业版
登录 / 注册
首页
>
试题广场
>
一个7B参数的Transformer模型,32层、32头、d
[单选题]
一个7B参数的Transformer模型,32层、32头、d_model=4096、使用FP16,序列长度为2048时,KV Cache占用多少显存?
约512MB
约1GB
约2GB
约4GB
查看正确选项
添加笔记
求解答(0)
邀请回答
收藏(3)
分享
纠错
0个回答
添加回答
这道题你会答吗?花几分钟告诉大家答案吧!
提交观点
问题信息
推理
难度:
0条回答
3收藏
17浏览
热门推荐
相关试题
KV Cache的核心作用是什么?
推理
评论
(0)
PagedAttention(vL...
推理
评论
(0)
在一个 Kafka 集群中,某分区...
Kafka
评论
(1)
在Spring Web应用中,若希...
Spring
评论
(1)
扫描二维码,关注牛客网
意见反馈
下载牛客APP,随时随地刷题