牛客图书馆 > 读书笔记
  • 《统计学习方法》读书笔记 (2) 感知机

    感知机 感知机对应于输入空间(特征空间)中,将实例划分为正负两类的分离超平面,属于判别模型。 2.1 感知机模型 定义:假设输入空间(特征空间)是 ,输出空间是 ,输入 表示实例的特征向量,对应于输入空间(特征空间)的点,输出 表示实例的类别。由输入空间...
    swust赵兴达 编辑于 2019-08-23 09:06:35
  • 《统计学习方法》读书笔记 (1) 统计学习概论

    1.1统计学习 统计学习的方法是基与数据构建统计模型从而对数据进行预测和分析,统计学习由监督学习,非监督学习,半监督学习和强化学习等组成。统计学习方法的三要素:模型,策略,算法。 1.2 监督学习 监督学习:学习一个模型,是模型能够对于任意给定的输入,对其相应...
    swust赵兴达 编辑于 2019-08-16 10:21:29
  • 《统计学习方法》读书笔记 (8)提升方法

    1.提升方法AdaBoost算法 AdaBoost的思想:是先得到一个弱分类器,然后在这个弱分类器的基础上将其提升到强分类器,具体方法是提升上一个分类器中被误分类的样本的权重,使得本次训练的分类器更加重视这些样本,最后的分类器是所有的分类器的线性组合。 Ad...
    swust赵兴达 编辑于 2019-10-18 15:44:58
  • 《统计学习方法》读书笔记 (4) 朴素贝叶斯法

    朴素贝叶斯法 朴素贝叶斯法是基与贝叶斯定理与特征条件独立据假设的分类方法。对于给定的训练数据集,首先基于特征条件独立假设学习输入/输出的联合概率分布,然后基与此模型,对于给定的输入x,利用贝叶斯定理求出后验概率最大的输出y. 朴素贝叶斯法的学习与分类 网上的一...
    swust赵兴达 编辑于 2019-09-05 22:26:20
  • kdTree

    二维平面上,有很多很多点。 现在给一个quary点,要求从二维平面上找到距离quary点最新的点。何解? 后端有后端的做法,机器学习有机器学习的做法。这个题看过小蓝书的都会做,就是最近邻分类器的简单魔改。当时忘得差不多了,现在把kd树仿真了一下,坑...
    LitterF 编辑于 2019-10-27 21:34:40
  • 《统计学习方法》读书笔记(11)条件随机场

    11.1 条件随机场 条件随机场(conditional random field, CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔可夫随机场。条件随机场可以用于不同的预测问题,本章主要讲述线性链(...
    swust赵兴达 编辑于 2019-11-15 15:12:34
  • 《统计学习方法》读书笔记 (7) 支持向量机

    线性可分支持向量机定义:给定线性可分训练数据集,通过间隔最大化或等价地求解相应的凸二次规划问题学习得到的分离超平面为: 以及相应的分类决策函数: 称为线性可分支持向量机。SVM的分类决策函数和感知机决策函数形式很类似,但是求得的超平面不一样。 函数间隔...
    swust赵兴达 编辑于 2019-10-12 10:00:37
  • 《统计学习方法》读书笔记(12)统计学习方法总结

    1.适用问题 本书主要介绍监督学习方法。 监督学习包括分类标注和回归。分类问题是指从实例的特征向量到类标记的预测问题。标注问题是从观测序列到标记序列的预测问题。 感知机,k近邻算法,朴素贝叶斯法,决策树,逻辑斯蒂回归与最大熵模型,支持向量机,提升方法是分类方法...
    swust赵兴达 编辑于 2019-11-22 12:57:10
  • 《统计学习方法》读书笔记 (5)决策树

    决策树,顾名思义,即以建树的形式来做决策。优点:模型具有可读性,分类速度快。缺点:容易过拟合,数据中的小变化会影响结果,不稳定,每一个节点的选择都是贪婪算法,不能保证全局最优解。步骤:特征选择,决策树的生成,决策树的修减。主要算法:ID3,C4.5,CART算...
    swust赵兴达 编辑于 2019-09-20 09:35:07
  • 《统计学习方法》读书笔记(6)逻辑斯谛回归与最大熵模型

    6.1逻辑斯谛回归模型 定义:设X是连续随机变量,X服从逻辑斯蒂回归分布是指X具有下列分布函数和密度函数: 式中,式中,为位置参数,为形状参数。密度函数 分布函数 二项逻辑斯蒂回归模型 定义: 二项逻辑斯蒂回归模型是如下的条件概率分布: ...
    swust赵兴达 编辑于 2019-09-26 13:02:50