首页 > 试题广场 >

以下机器学习中,在数据预处理时,不需要考虑归一化处理的是:

[单选题]
以下机器学习中,在数据预处理时,不需要考虑归一化处理的是:
  • logistic回归
  • SVM
  • 树形模型
  • 神经网络
当使用梯度下降法寻求最优解时,很有可能走“之字型”路线(垂直等高线走),从而导致需要迭代很多次才能收敛;在梯度下降进行求解时能较快的收敛。
所以,使用梯度下降法求解最优解的模型,归一化就非常重要!knnlogistc回归,gbdtxgboostadaboost
还有一些模型是基于距离的,所以量纲对模型影响较大,就需要归一化数据,处理特征之间的权重问题,这样可以提高计算精度。比如,knnsvmkmeansk近邻,主成分分析;
神经网络对数据分布本无要求,但归一化可以加快训练数据;
那么不需要归一化处理的模型,决策树,随机森林。他们因为它们不关心变量的值,而是关心变量的分布和变量之间的条件概率
编辑于 2019-07-20 00:28:43 回复(4)
树模型,对数据量纲不敏感,因此不需要数据归一化
发表于 2019-07-16 19:01:42 回复(0)
参考:百面机器学习第一章第一节
数值特征归一化方法有:线性函数归一化和零均值归一化
需要通过梯度下降法求解的模型需要数值特征归一化:如线性回归、逻辑回归、支持向量机、神经网络模型。(原因:随机梯度下降时,特征值相差大,会导致更新速度慢,需要兼顾特征值小的特征)
不需要特征归一化:决策树模型,决策树模型分裂根据信息增益,信息增益与特征归一化无关。
发表于 2020-09-24 16:40:03 回复(0)
1.首先,使用梯度下降法求解最优解的模型,归一化非常重要:knn,logistc回归,gbdt,xgboost,adaboost
2.有一些模型是基于距离的,所以量纲对模型影响较大,就需要归一化数据,处理特征之间的权重问题,这样可以提高计算精度。比如,knn,svm,kmeans,k近邻,主成分分析;
3.神经网络对数据分布本无要求,但归一化可以加快训练数据;
4.那么不需要归一化处理的模型,决策树,随机森林。他们因为它们不关心变量的值,而是关心变量的分布和变量之间的条件概率
(抄来的笔记)
发表于 2019-07-30 13:16:17 回复(0)
标记一下:LR 用梯度下降法进行求解所以需要归一化加快收敛避免震荡,SVM是基于距离的受量纲影响较大,就需要归一化数据,同理的还有KNN,Kmeans,PCA 。
发表于 2019-07-25 20:10:02 回复(0)
逻辑回归、Svm、神经网络,都要归一化,才能对数据进行处理
发表于 2019-07-16 15:19:47 回复(0)
  • 当出现缺失值时,算法的选取:

1. 树模型对于缺失值的敏感度较低,大部分时候可以在数据有缺失时使用。

2. 涉及到距离度量(distance measurement)时,如计算两个点之间的距离,缺失数据就变得比较重要。因为涉及到“距离”这个概念,那么缺失值处理不当就会导致效果很差,如K近邻算法(KNN)和支持向量机(SVM)。

3. 线性模型的代价函数(loss function)往往涉及到距离(distance)的计算,计算预测值和真实值之间的差别,这容易导致对缺失值敏感。

4. 神经网络的鲁棒性强,对于缺失数据不是非常敏感,但一般没有那么多数据可供使用。

5. 贝叶斯模型对于缺失数据也比较稳定,数据量很小的时候首推贝叶斯模型。

6. 总结来看,对于有缺失值的数据在经过缺失值处理后:

(1) 数据量很小,用朴素贝叶斯

(2) 数据量适中或者较大,用树模型,优先 xgboost

(3) 数据量较大,也可以用神经网络

(4) 避免使用距离度量相关的模型,如KNN和SVM

发表于 2022-01-12 17:43:28 回复(0)
以下机器学习中,在数据预处理时,不需要考虑归一化处理的是树形模型
发表于 2019-07-21 14:00:13 回复(0)
树型模型在数据预处理时,不需要考虑归一化处理。
发表于 2023-06-08 18:47:49 回复(0)
决策树和随机森林对数据量纲不敏感
发表于 2020-08-30 10:49:37 回复(0)
梯度下降—归一化、量纲影响
发表于 2020-07-07 00:54:10 回复(0)
在使用梯度下降法的算法为了避免走之字形,迭代次数过多,数据预处理时该使用归一化处理。在基于距离求解的算法,量纲对于结果有影响,因此也需要使用归一化处理。
发表于 2019-11-28 22:05:33 回复(0)
dt rf, 等对数值不敏感,对缺失不敏感
编辑于 2019-08-24 11:52:01 回复(0)
c
发表于 2019-08-01 12:21:28 回复(0)