首页 > 试题广场 >

Adam 优化器的核心思想是什么?

[单选题]
Adam 优化器的核心思想是什么?
  • 结合动量 Momentum 与 RMSProp 的自适应学习率
  • 通过二阶导数调整学习率
  • 仅用动量加速梯度下降
  • 使用固定学习率更新
  • B. 通过二阶导数调整学习率
    错误。二阶导数优化的典型代表是牛顿法,它需要计算 Hessian 矩阵(二阶导数矩阵),计算成本极高。Adam 完全不涉及二阶导数,仅使用梯度(一阶导数)的一阶矩和二阶矩估计。
  • C. 仅用动量加速梯度下降
    错误。“仅用动量” 是 Momentum 优化器的特点,Adam 不只是有动量项,还结合了 RMSProp 的自适应学习率机制,是两者的结合体。
  • D. 使用固定学习率更新
    错误。固定学习率是 SGD(随机梯度下降)的基础特性,学习率全程不变。而 Adam 是自适应学习率优化器,每个参数的学习率会根据自身梯度的历史情况动态调整。
  • 发表于 2026-01-18 23:32:57 回复(0)