首页 > 试题广场 >

下列哪些项所描述的相关技术是错误的?

[单选题]

下列哪些项所描述的相关技术是错误的?

  • AdaGrad使用的是一阶差分(first order differentiation)
  • L-BFGS使用的是二阶差分(second order differentiation)
  • AdaGrad使用的是二阶差分
笔记:牛顿法、拟牛顿法、adam,rmsgrad用到了二阶导
momentum、adgrad用的是一阶导,adgrad的特点是历史梯度正则。
发表于 2021-03-15 16:29:54 回复(3)
AdaGrad是梯度下降法,用的是一阶导数信息,L-BFGS是拟牛顿法,在牛顿法的基础上发展而来的,用到了二阶导数信息。
发表于 2020-02-26 13:48:49 回复(3)
有趣的是,本题可以通过排除法来选择出。
发表于 2021-07-13 03:15:31 回复(0)
使用一阶导数信息的常用方法:
        动量法/斜率自适应加速动量法,adagrad(学习率自适应梯度下降法),adadelta(adagrad的改进,使用移动窗口计算),RMSprop(AdaDelta的中间形式),Adam(RMSprop+动量),AdamMax(使用lp范数和l00范数替代l2范数),NaAdam(RMSprop+斜率自适应加速动量法)
使用二阶导数信息的常用方法:
        牛顿法,拟牛顿法(DFP,BFGS)等
发表于 2023-10-16 10:53:32 回复(0)
优化算法
发表于 2023-03-21 10:03:05 回复(0)