首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
poekiii
2021-03-10 21:48
门头沟学院 嵌入式工程师
关注
已关注
取消关注
今日打卡
2021-03-10
在牛客打卡3天,今天学习:刷题 20 道
每日监督打卡
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
12-18 20:29
门头沟学院 人工智能
大模型推理加速:KVCache和Pageattendtion
首先声明不搞infra的不用看,我现在看底层了,本篇内容基于Efficient Memory Management for Large Language Model Serving with PagedAttention》 (SOSP 2023)出处: 加州大学伯克利分校(UC Berkeley)这篇里面讲了vllm,那么我们就先讲vllm。LLM 模型在推理阶段的显存有三部份组成:模型权重、KVCache 显存占用以及激活值显存占用。而今天我们是速成教程,所以又要体现深度,那么就先讲KVCache,这个本质上是一种通用的思路就是减少k,v的计算,采用缓存的机制去减少中间值,而这个的问题是kv...
机器学习,推理优化,芯片...
点赞
评论
收藏
分享
12-17 14:39
浙江大学 Java
在MyBatis中$和#有什么区别
图解Mybatis牛客面...
点赞
评论
收藏
分享
12-22 16:31
已编辑
桂林电子科技大学 Python
逆天某科技公司某HR,骂人撤回后拉黑
贼逆天啊,发了个“youbing”然后光速撤回拉黑了,没截下来。
飞屋一号:
给对面打码不给自己打码???
点赞
评论
收藏
分享
11-27 14:21
同济大学 Java
刷xhs,震惊于xhs真敢给啊!!!明年我有机会吗
#小红书开奖了#
卢来猴祖:
给了这薪资关键拿不了几个月就给你踹了呀
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
26届双非本鼠硕拿下5个ssp的秋招总结及一条龙经验分享
1.2W
2
...
【25年终总结】-牛客运营团队
4860
3
...
学校发力了,没招了牛友们
3581
4
...
大二混子终于找到实习了...
3199
5
...
尼克狐尼克,你被捕了
2475
6
...
关于我小心翼翼触碰安全红线这件事
2318
7
...
校招入职半年之后又回到了这个地方
2277
8
...
快手昨晚是咋了,有无懂牛?
1861
9
...
近期速通的实习面试timeline
1710
10
...
秋招感概一下
1610
创作者周榜
更多
正在热议
更多
#
2025年终总结
#
149912次浏览
2551人参与
#
你面试体验感最差/最好的公司
#
3533次浏览
57人参与
#
重来一次,你会对开始求职的自己说
#
3253次浏览
73人参与
#
一人说一个提前实习的好处
#
3917次浏览
76人参与
#
实习没事做是福还是祸?
#
8796次浏览
137人参与
#
团建是“福利”还是是 “渡劫”
#
4306次浏览
113人参与
#
秋招落幕,你是He or Be
#
3637次浏览
79人参与
#
今年你最想重开的一场面试是?
#
1576次浏览
26人参与
#
你小心翼翼的闯过多大的祸?
#
7299次浏览
110人参与
#
工作中听到最受打击的一句话
#
2888次浏览
62人参与
#
大厂VS公务员你怎么选
#
71621次浏览
661人参与
#
实习简历求拷打
#
30844次浏览
300人参与
#
应届生进小公司有什么影响吗
#
109223次浏览
1116人参与
#
如何排解工作中的焦虑
#
244363次浏览
2247人参与
#
比亚迪工作体验
#
70494次浏览
255人参与
#
秋招结束之后的日子
#
113946次浏览
1043人参与
#
投格力的你,拿到offer了吗?
#
156155次浏览
835人参与
#
找不到实习会影响秋招吗
#
1401491次浏览
13652人参与
#
扒一扒那些奇葩实习经历
#
140607次浏览
1151人参与
#
互联网公司爆料
#
158648次浏览
724人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务