首页 > 试题广场 >

为提高大模型推理效率,工程中常采用量化技术,以下哪项是量化带

[单选题]
为提高大模型推理效率,工程中常采用量化技术,以下哪项是量化带来的直接好处?
  • 增强模型在生成任务中的多样性和创新性
  • 减小模型大小和计算负载,降低推理延迟和内存占用
  • 提升训练阶段的参数收敛速度
  • 消除模型对超参数调整的依赖

这道题你会答吗?花几分钟告诉大家答案吧!