首页 > 试题广场 >

以下关于Disaggregated Serving（分离式服

[单选题]
以下关于Disaggregated Serving（分离式服务）的描述，哪项正确？ 
  • 将不同模型分开部署在不同服务器
  • 将Prefill和Decode计算分离到不同GPU池，各自独立扩展
  • 将量化和非量化模型分开服务
  • 按用户分组部署不同实例
查看正确选项
添加回答

这道题你会答吗？花几分钟告诉大家答案吧！

提交观点

问题信息

推理
难度：
0条回答 5浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号