首页 > 试题广场 >

以下关于优化算法特点描述正确的是（）

[不定项选择题]

以下关于优化算法特点描述正确的是（）

随机梯度下降（SGD）是一种较为常见的优化算法，经常应用于大规模和稀疏机器学习问题当中。相对于非随机算法，SGD 能更有效的利用信息，在一定程度上加快了训练速度。

Momentum模拟物理里动量的概念，使参数更新的方向不仅由当前的梯度决定，也与此前累积的下降方向有关。可以加速sgd在正确方向的更新，并且抑制震荡。

Adagrad把所有梯度平方和开根号来除当前的梯度，在学习率方面进行了约束，每个分量有各自不同的学习率。

RMSProp中的衰减系数，让参数更新只关注最近一段时间窗口内的梯度，一定程度上可以避免因分母积累得太大而导致的学习率逐渐为0，进而提前结束训练的情况。

查看答案及解析

牛客756295169号

D描述有问题吧,怎么可能导致学习率逐渐为0

发表于 2021-06-17 10:53:51 回复(0)

食堂在逃干饭王

C感觉有点文字游戏，除和除以是相反的...

发表于 2021-04-03 14:54:57 回复(0)

提交观点

问题信息

美团算法工程师 2021

上传者：小小

难度：

2条回答 41收藏 736浏览

扫一扫，把题目装进口袋