核函数的种类和应用场景。

1.多项式核函数 polynomial kernel function

对应的支持向量机是⼀个p次多项式分类器。在此情形下，分类决策函数成为

2.高斯核函数 gaussian kernel function

这个核就是会将原始空间映射为无穷维空间的那个家伙。不过如果σ选得很⼤大的话，高次特征上的权重实际上衰减的非常快，所以实际上相当于一个低维的子空间；反过来，如果σ选得很小，则可以将任意的数据映射为线性可分，当然，这并不一定是好事，因为随之而来的可能是非常严重的过拟合问题。不过，总的来说，通过调控参数σ，高斯核实际上具有相当高的灵活性，也是使⽤用最为广泛的核函数之一。它对应的支持向量机是高斯径向基函数分类器，在此情形下，分类决策函数称为

3.线性核
κ(x1, x2) = ⟨x1, x2⟩ ，这实际上就是原始空间中的内积。这个核存在的主要目的是使得“映射后空间中的问题”和“映射前空间中的问题”两者在形式上统⼀起来了。

最后，总结一下：对于非线性的情况，SVM 的处理理方法是选择一个核函数 κ(⋅,⋅) ，通过将数据映射到高维空间，来解决在原始空间中线性不可分的问题。由于核函数的优良品质，这样的非线性扩展在计算量上并没有比原来复杂多少，这一点是非常难得的。当然，这要归功于核方法。除了 SVM 之外，任何将计算表示为数据点的内积的方法，都可以使用核方法进行非线性扩展。