K-近邻算法  文章目录  K-近邻算法   学习目标  1.11 案例2：预测facebook签到位置   1 数据集介绍 2 步骤分析 3 代码过程    学习目标  掌握K-近邻算法实现过程 知道K-近邻算法的距离公式 知道K-近邻算法的超参数K值以及取值问题 知道kd树实现搜索的过程 应用KNeighborsClassifier实现分类 知道K-近邻算法的优缺点 知道交叉验证实现过程 知道超参数搜索过程 应用GridSearchCV实现算法参数的调优  1.11 案例2：预测facebook签到位置  1 数据集介绍  数据介绍：将根据用户的位置，准确性和时间戳预测用户正在查看的业务。...

线性回归  文章目录  线性回归   学习目标  2.1 线性回归简介   1 线性回归应用场景 2 什么是线性回归   2.1 定义与公式 2.2 线性回归的特征与目标的关系分析     学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实现模型的保存与加载  2.1 线性回归简介  1 线性回归应用场景   房价预测  销售额度预测  贷款额度预测 举例：   2 什么是线性回...

线性回归  文章目录  线性回归   学习目标  2.2 线性回归api初步使用   1 线性回归API 2 举例   2.1 步骤分析 2.2 代码过程     学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实现模型的保存与加载  2.2 线性回归api初步使用  1 线性回归API  sklearn.linear_model.LinearRegression()  Line...

线性回归  文章目录  线性回归   学习目标  2.3 数学:求导   1 常见函数的导数 2 导数的四则运算 3 练习     3.1 y = x^3-2x^2+sinx,求f`(x) 3.2 y=ln(sinx), 求dy/dx   4 矩阵（向量）求导 [了解]    学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实现模型的保存与加载  2.3 数学:求导 1 常见函数...

线性回归  文章目录  线性回归   学习目标  2.4 线性回归的损失和优化   1 损失函数 2 优化算法   2.1 正规方程   2.1.1 什么是正规方程 2.1.2 正规方程求解举例 2.1.3 正规方程的推导  2.2 梯度下降(Gradient Descent)   2.2.1 什么是梯度下降 2.2.2 梯度的概念 2.2.3 梯度下降举例 2.2.4 梯度下降**（**Gradient Descent）公式   **优化动态图演示**       学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评...

线性回归  文章目录  线性回归   学习目标  2.5 梯度下降法介绍   1 全梯度下降算法（FG） 2 随机梯度下降算法（SG） 3 小批量梯度下降算法（mini-bantch） 4 随机平均梯度下降算法（SAG） 5 算法比较 6 梯度下降优化算法(拓展)    学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实现模型的保存与加载  2.5 梯度下降法介绍  上一节中给大...

线性回归  文章目录  线性回归   学习目标  2.6 线性回归api再介绍   学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实现模型的保存与加载  2.6 线性回归api再介绍  sklearn.linear_model.LinearRegression(fit_intercept=True)  通过正规方程优化 fit_intercept：是否计算偏置 LinearRe...

线性回归  文章目录  线性回归   学习目标  2.7 案例：波士顿房价预测   1 分析 2 回归性能评估 3 代码    学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实现模型的保存与加载  2.7 案例：波士顿房价预测   数据介绍     给定的这些特征，是专家们得出的影响房价的结果属性。我们此阶段不需要自己去探究特征是否有用，只需要使用这些特征。到后面量化很多特征需...

线性回归  文章目录  线性回归   学习目标  2.8 欠拟合和过拟合   1 定义 2 原因以及解决办法 3 正则化   3.1 什么是正则化 3.2 正则化类别  4 维灾难【拓展知识】   4.1 什么是维灾难 4.2 维数灾难与过拟合     学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实现模型的保存与加载  2.8 欠拟合和过拟合  1 定义  过拟合：一个假设在...

线性回归  文章目录  线性回归   学习目标  2.9 正则化线性模型   1 Ridge Regression (岭回归，又名 Tikhonov regularization) 2 Lasso Regression(Lasso 回归) 3 Elastic Net (弹性网络) 4 Early Stopping [了解]    学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实...

线性回归  文章目录  线性回归   学习目标  2.10 线性回归的改进-岭回归   1 API 2 观察正则化程度的变化，对结果的影响？ 3 波士顿房价预测    学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实现模型的保存与加载  2.10 线性回归的改进-岭回归  1 API  sklearn.linear_model.Ridge(alpha=1.0, fit_inte...

线性回归  文章目录  线性回归   学习目标  2.11 模型的保存和加载   1 sklearn模型的保存和加载API 2 线性回归的模型保存加载案例    学习目标  掌握线性回归的实现过程 应用LinearRegression或SGDRegressor实现回归预测 知道回归算法的评估标准及其公式 知道过拟合与欠拟合的原因以及解决方法 知道岭回归的原理及与线性回归的不同之处 应用Ridge实现回归预测 应用joblib实现模型的保存与加载  2.11 模型的保存和加载  1 sklearn模型的保存和加载API  from sklearn.externals import joblib ...

逻辑回归  文章目录  逻辑回归   学习目标  3.1 逻辑回归介绍   1 逻辑回归的应用场景 2 逻辑回归的原理   2.1 输入 2.2 激活函数  3 损失以及优化   3.1 损失 3.2 优化     学习目标  知道逻辑回归的损失函数 知道逻辑回归的优化方法 知道sigmoid函数 知道逻辑回归的应用场景 应用LogisticRegression实现逻辑回归预测 知道精确率、召回率指标的区别 知道如何解决样本不均衡情况下的评估 了解ROC曲线的意义说明AUC指标大小 应用classification_report实现精确率、召回率计算 应用roc_auc_score实现指标计算...

逻辑回归  文章目录  逻辑回归   学习目标  3.2 逻辑回归api介绍   学习目标   知道逻辑回归的损失函数  知道逻辑回归的优化方法  知道sigmoid函数  知道逻辑回归的应用场景  应用LogisticRegression实现逻辑回归预测  知道精确率、召回率指标的区别  知道如何解决样本不均衡情况下的评估  了解ROC曲线的意义说明AUC指标大小  应用classification_report实现精确率、召回率计算  应用roc_auc_score实现指标计算    3.2 逻辑回归api介绍  sklearn.linear_model.LogisticRegressio...