首页 > 试题广场 >

机器学习中L1正则化和L2正则化的区别是？

[不定项选择题]
机器学习中L1正则化和L2正则化的区别是？ 
  • 使用L1可以得到稀疏的权值
  • 使用L1可以得到平滑的权值
  • 使用L2可以得到稀疏的权值
  • 使用L2可以得到平滑的权值
查看答案及解析
添加回答
Adoring头像 Adoring

图片说明

发表于 2017-03-07 12:40:50 回复(4)
牛客4292093号头像 牛客4292093号
使用L1正则后的权值更新规则多了一项 η * λ * sgn(w)/n，这一项 当w为正时，更新后的w变小。当w为负时，更新后的w变大——因此它的效果就是让w往0靠，使网络中的权重尽可能为0，也就相当于减小了网络复杂度，防止过拟合。所以说L1可以得到更稀疏的权值。
发表于 2016-08-03 20:57:20 回复(0)
一杆走火的枪头像 一杆走火的枪
B,D。具体可参考http://blog.csdn.net/zouxy09/article/details/24971995/
发表于 2015-09-15 16:20:37 回复(1)
薛定谔的熊头像 薛定谔的熊

 我们知道，L1和L2都是规则化的方式，我们将权值参数以L1或者L2的方式放到代价函数里面去。然后模型就会尝试去最小化这些权值参数。而这个最小化就像一个下坡的过程，L1和L2的差别就在于这个“坡”不同，如下图：L1就是按绝对值函数的“坡”下降的，而L2是按二次函数的“坡”下降。所以实际上在0附近，L1的下降速度比L2的下降速度要快。所以会非常快得降到0。不过我觉得这里解释的不太中肯，当然了也不知道是不是自己理解的问题。

       L1在江湖上人称Lasso，L2人称Ridge。不过这两个名字还挺让人迷糊的，看上面的图片，Lasso的图看起来就像ridge，而ridge的图看起来就像lasso。
因此，一句话总结就是：L1会趋向于产生少量的特征，而其他的特征都是0，而L2会选择更多的特征，这些特征都会接近于0。Lasso在特征选择时候非常有用，而Ridge就只是一种规则化而已。
参考： http://blog.csdn.net/zouxy09/article/details/24971995/
发表于 2016-09-06 18:40:05 回复(0)
Forrestcloud头像 Forrestcloud
L1正则化偏向于稀疏，它会自动进行特征选择，去掉一些没用的特征，也就是将这些特征对应的权重置为0.
L2主要功能是为了防止过拟合，当要求参数越小时，说明模型越简单，而模型越简单则，越趋向于平滑，从而防止过拟合。
发表于 2017-06-03 14:06:15 回复(0)
命中全靠运气头像 命中全靠运气
该题西瓜书上特征那章的特征选择之嵌入式与L1正则里面有讲
发表于 2017-02-16 00:57:41 回复(0)
NeON20190701165262头像 NeON20190701165262
车毁人亡

发表于 2022-01-05 21:39:38 回复(0)
Jovs头像 Jovs
明显是AD
发表于 2015-10-06 15:51:32 回复(1)
我只是想找个好工作而已头像 我只是想找个好工作而已
L1正则化是模型各个参数的绝对值之和 L2正则化是模型各个参数的平方和开方 。L1更倾向于产生少量权重，用0来代替。L2倾向更多，。虽然有的值会倾向于0
编辑于 2019-03-18 15:28:10 回复(0)
zaida112头像 zaida112

L1用绝对值误差；L2用mean square error


发表于 2018-10-20 19:19:04 回复(0)
SunnyMarkLiu头像 SunnyMarkLiu
A, D
发表于 2018-07-09 22:47:01 回复(0)
Jianger头像 Jianger
AD
发表于 2017-08-29 19:36:37 回复(0)
joyandfun头像 joyandfun
要掌握
发表于 2017-02-28 07:32:53 回复(0)
嘻嘻兔头像 嘻嘻兔
参考博客：http://blog.csdn.net/ztf312/article/details/50894115
编辑于 2016-03-15 16:09:33 回复(0)
提交观点

问题信息

C++工程师 运维工程师 美团 算法工程师 机器学习 2016 Java工程师
来自：美团2016研发工程师...
难度：
14条回答 31825浏览

热门推荐

相关试题

扫一扫，把题目装进口袋

求职之前，先上牛客

扫描二维码，进入QQ群

扫描二维码，关注牛客公众号