首页 > 试题广场 >

在大型语言模型的推理过程中，延迟优化通常优先考虑哪方面？

[单选题]
在大型语言模型的推理过程中，延迟优化通常优先考虑哪方面？ 
  • 训练数据的处理速度
  • 单次查询请求的响应时间
  • 模型的总体参数量平衡
  • 预训练阶段的收敛时间
查看正确选项
添加回答
去码头整点薯条如何头像 去码头整点薯条如何
推理过程中优先处理用户的输入输出，所以延迟优化会先考虑单次查询的响应时间，否则用户会炸毛
发表于 2025-11-06 19:41:41 回复(0)
提交观点

问题信息

大模型概念
难度：
1条回答 15浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号