机器学习算法之支持向量机SVM

4 min read

什么是支持向量机(SVM)?

支持向量机(support vector machines,SVM)是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器,间隔最大使它有别于感知机;支持向量机还包括核技巧,这使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化,可形式化为一个求解凸二次规划(convex quadratic programming)的问题,也等价于正则化的合页损失函数的最小化问题。支持向量机的学习算法是求解凸二次规划的最优化算法。

支持向量机学习方法包括构建由简至繁的模型:线性可分支持向量机(linear support vector machine in linearly separable case),线性支持向量机(linear support vector machine)及非线性支持向量机(non-linear support vector machine)。简单的模型是复杂模型的基础,也是复杂模型的特殊情况。当训练数据线性可分时,通过硬间隔最大化(hard margin maximization),学习一个线性的分类器,即线性可分支持向量机,又称为硬间隔支持向量机;当训练数据近似线性可分时,通过软间隔最大化(soft margin maximization),也学习一个线性的分类器,即线性支持向量机,又称为软间隔支持向量机;当训练数据线性不可分时,通过使用核技巧(kernel trick)及软间隔最大化,学习非线性支持向量机。

当输入空间为欧式空间或离散集合、特征空间为希尔贝特空间时,核函数(kernel function)表示将输入从输入空间映射到特征空间得到的特征向量之间的内积。通过使用核函数可以学习非线性支持向量机,等价于隐式地在高维的特征空间中学习线性支持向量机。这样的方法称为核技巧。核方法(kernel method)是比支持向量机更为一般的机器学习方法。

以上定义来自《统计学习方法》上的定义。简单的讲支持向量机(Support vector machines, SVM)是一种二分类模型,它的基本模型是定义在特征空间上的间隔最大的线性分类器,他的学习策略就是间隔最大化,同时该方法可以形式化为一个求解图二次规划。

支持向量机可分为三类:

  • 线性可分支持向量机、硬间隔(hard-margin svm)
  • 线性支持向量机、软间隔(soft-margin svm)
  • 非线性支持向量机、Kernel SVM

支持向量机模型中存在三宝:

  • 间隔
  • 对偶
  • 核技巧

支持向量机和感知机在某些方面很相似,其相同点:

  • 都是二分类模型
  • 都是通过一个分离超平面对特征进行分类

不同点:

  • SVM 是特殊的感知机
  • 感知机是用误分类最小的策略,求得分离超平面,这时存在无穷个解,感知机利用间隔最大化求得最优分离超平面。

简单点讲,SVM就是一种二类分类模型,他的基本模型是的定义在特征空间上的间隔最大的线性分类器,SVM的学习策略就是间隔最大化。我们先来看看下面这个图:

图中有分别属于两类的一些二维数据点和三条直线。如果三条直线分别代表三个分类器的话,请问哪一个分类器比较好?我们凭直观感受应该觉得答案是H3。首先H1不能把类别分开,这个分类器肯定是不行的;H2可以,但分割线与最近的数据点只有很小的间隔,如果测试数据有一些噪声的话可能就会被H2错误分类(即对噪声敏感、泛化能力弱)。H3以较大间隔将它们分开,这样就能容忍测试数据的一些噪声而正确分类,是一个泛化能力不错的分类器。对于支持向量机来说,数据点若是p维向量,我们用p-1维的超平面来分开这些点。但是可能有许多超平面可以把数据分类。最佳超平面的一个合理选择就是以最大间隔把两个类分开的超平面。因此,SVM选择能够使离超平面最近的数据点的到超平面距离最大的超平面。

支持向量机原理

线性可分支持向量机与硬间隔最大化

首先给出一个非常简单的分类问题(线性可分),我们要用一条直线,将下图中黑色的点和白色的点分开,很显然,图上的这条直线就是我们要求的直线之一(可以有无数条这样的直线)

假如说,我们令黑色的点=-1,白色的点=+1,直线f(x) = w\cdot x + b,这儿的x、w是向量,其实等价f(x) = w_1x_1 + w_2x_2 +...+ w_nx_n + b, 当向量x的维度=2的时候,f(x) 表示二维空间中的一条直线,当x的维度=3的时候,f(x)表示3维空间中的一个平面,当x的维度n>3的时候,表示n维空间中的n-1维超平面。我们令黑色白色两类的点分别为+1, -1,所以当有一个新的点x需要预测属于哪个分类的时候,我们用sgn(f(x))就可以预测了,sgn表示符号函数,当f(x) > 0的时候,sgn(f(x)) = +1, 当f(x) < 0的时候sgn(f(x)) = -1。但是,我们怎样才能取得一个最优的划分直线f(x)呢?下图的直线表示几条可能的f(x)

一个很直观的感受是让这条直线到给定样本中最近的点最远,下面给出几个图,来说明一下。

第一种分法:

第二种分法:

这两种分法哪种更好呢?从直观上来说,就是分割的间隙越大越好,把两个类别的点分得越开越好。选择使得间隙最大的函数作为分割平面是由很多道理的,比如说从概率的角度上来说,就是使得置信度最小的点置信度最大,从实践的角度来说,这样的效果非常好。

上图被红色和蓝色的线圈出来的点就是所谓的支持向量(support vector)。

Classifier Boundary就是f(x),红色和蓝色的线(plus plane与minus plane)就是support vector所在的面,红色、蓝色线之间的间隙就是我们要最大化的分类间的间隙。

这里直接给出M的式子:M=\frac{2}{\|w\|}

SVM学习的基本想法是求解能够正确划分训练数据集并且几何间隔最大的分离超平面。如下图所示,\boldsymbol{w} \cdot x+b=0即为分离超平面,对于线性可分的数据集来说,这样的超平面有无穷多个(即感知机),但是几何间隔最大的分离超平面却是唯一的。

在推导之前,先给出一些定义。假设给定一个特征空间上的训练数据集:T={(x_1, y_1),(x_2, y_2), \ldots,(x_N, y_N)}。其中,x_i \in \mathbb{R}^{n}y_{i} \in\{+1,-1\}, i=1,2, \ldots Nx_{i}为第i个特征向量,y_{i}为类标记,当它等于+1时为正例;为-1时为负例。再假设训练数据集是线性可分的。

几何间隔

对于给定的数据集T和超平面wx+b=0,定义超平面关于样本点(x_{i}, y_{i})的几何间隔为:\gamma_{i} = y_i(\frac{w}{\left \| w \right \|} \cdot x_i + \frac{b}{\left \| w \right \|})。超平面关于所有样本点的几何间隔的最小值为:\gamma=\min _{i=1,2 \ldots, N} \gamma_{i}。实际上这个距离就是我们所谓的支持向量到超平面的距离。

根据以上定义,SVM模型的求解最大分割超平面问题可以表示为以下约束最优化问题:

    \[\max _{w, b} \gamma\]

    \[s.t. \quad y_{i}(\frac{w}{\left \| w \right \|} \cdot x_i+\frac{b}{\left \| w \right \|}) \geq \gamma, i=1,2, \ldots, N\]

s.t的意思是subject to,也就是限制条件的意思。将约束条件两边同时除以\gamma得到:y_{i}(\frac{w}{\left \| w \right \| \gamma}  \cdot x_i+\frac{b}{\left \| w \right \| \gamma}) \geq 1

因为\left \| w \right \|\gamma都是标量,所以为了表达式简洁,令:w=\frac{w}{\left \| w \right \| \gamma}b=\frac{b}{\left \| w \right \| \gamma}得到:y_i(w \cdot x_i+b) \geq 1, i=1,2, \ldots, N

又因为最大化\gamma,等价于最大化\frac{1}{\left \| w \right \|},也就等价于最小化\frac{1}{2}\left \| w \right \|^{2},因此SVM模型的求解最大分割超平面问题又可以表示为以下约束最优化问题:

    \[\min _{w, b} \frac{1}{2}\left \| w \right \|^{2}\]

    \[s.t. \quad y_{i}(w \cdot x_i+b) \geq 1, i=1,2, \ldots, N\]

对偶算法

为了求解线性可分支持向量机的最优化问题,将它作为原始最优化问题,应用拉格朗日对偶性,通过求解对偶问题(dual problem)得到原始问题(primal problem)的最优解,这就是线性可分支持向量机的对偶算法(dual algorithm)。这样做的优点,一是对偶问题往往更容易求解;二是引入自然核函数,进而推广到非线性分类问题。

首先构建拉格朗日函数(Lagrange function)。为此,对每一个不等式约束引进拉格朗日乘子(Lagrange multiplier)\alpha_i\geq 0,i=1,2,…,N,定义拉格朗日函数:

    \[\begin{aligned} L(w, b, \alpha)=&\frac{1}{2}w^Tw+\sum_{i=1}^{N}\alpha_i(1-y_i(w^T x_i + b)) \\ =& \frac{1}{2}w^Tw-\sum_{i=1}^{N}\alpha_i y_i(w^T x_i + b) +\sum_{i=1}^{N}\alpha_i \end{aligned}\]

根据拉格朗日对偶性,原始问题的对偶问题是极大极小问题:\max_{\alpha}\min_{w,b}L(w, b, \alpha)。所以,为了得到对偶问题的解,需要先求L(w, b, \alpha)对w,b的极小,再求对\alpha的极大。

1、求\min_{w,b}L(w, b, \alpha)

将拉格朗日函数 L(w, b, \alpha) 分别对 w,b求偏导,并令其值为0。

    \[\frac{\partial L}{\partial w} = w - \sum_{i=1}^{N}\alpha_i y_i x_i =0  \Rightarrow w = \sum_{i=1}^{N}\alpha_i y_i x_i\]

    \[\frac{\partial L}{b}=-\sum_{i=1}^{N}\alpha_iy_i=0 \Rightarrow \sum_{i=1}^{N}\alpha_iy_i=0\]

将上式代入拉格朗日函数,即得:

    \[\begin{aligned} \min_{w,b} L(w, b,\alpha)=&\frac{1}{2} (\sum_{i=1}^{N}\alpha_i y_i x_i)^T \sum_{i=1}^{N}\alpha_i y_i x_i-\sum_{i=1}^{N}\alpha_i y_i((\sum_{i=1}^{N}\alpha_i y_i x_i)^T x_i + b) +\sum_{i=1}^{N}\alpha_i \\ =&\frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_i y_i\alpha_j y_jx_i^Tx_j-\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_i y_i\alpha_j y_jx_j^Tx_i+\sum_{i=1}^{N}\alpha_i \\ =& -\frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_i y_i\alpha_j y_jx_i^Tx_j+\sum_{i=1}^{N}\alpha_i \end{aligned}\]

2、求\min_{w,b}L(w, b,\alpha)\alpha的极大值,即对偶问题:

    \[\begin{aligned} & \max_{\alpha} -\frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_i y_i\alpha_j y_jx_i^Tx_j+\sum_{i=1}^{N}\alpha_i \\ & s.t. \quad \sum_{i=1}^{N}\alpha_iy_i=0 \\ & \quad \quad \alpha_i \geq 0,i=1, 2...N \end{aligned}\]

将式中的目标函数由求极大转换成求极小,就得到下面与之等价的对偶最优化问题:

    \[\begin{aligned} & \min_{\alpha} \frac{1}{2}\sum_{i=1}^{N}\sum_{j=1}^{N}\alpha_i y_i\alpha_j y_jx_i^Tx_j-\sum_{i=1}^{N}\alpha_i \\ & s.t. \quad \sum_{i=1}^{N}\alpha_iy_i=0 \\ & \quad \quad \alpha_i \geq 0,i=1, 2...N \end{aligned}\]

对线性可分训练数据集,假设对偶最优化问题对\alpha的解为\alpha^*=(\alpha_1^*,\alpha_2^*,...,\alpha_N^*)^T,可以由\alpha^*求得原始最优化问题的解w^*,b^*。有下面的定理:

\alpha^*=(\alpha_1^*,\alpha_2^*,...,\alpha_N^*)^T是对偶最优化问题的解,则存在下标j,使得\alpha_j^*>0,并可按下式求得原始最优化问题的解w^*,b^*

    \[w^*=\sum_{i=1}^{N} \alpha_i^*y_ix_i\]

    \[b^*=y_j-\sum_{i=1}^{N} \alpha_i^*y_i(x_i^Tx_j)\]

证明:根据定理,KKT条件成立,即得:

    \[\begin{aligned} & \frac{\partial L(w^*,b^*,\alpha ^*)}{\partial w} = w^*-\sum_{i=1}^{N}\alpha_i^* y_i x_i=0 \\ & \frac{\partial L(w^*,b^*,\alpha ^*)}{\partial b} = -\sum_{i=1}^{N}\alpha_i^*y_i=0 \\ & \frac{\partial L(w^*,b^*,\alpha ^*)}{\partial \alpha} = 0 \\ & \alpha_i(1-y_i(w^Tx_i+b)) =0  \\ & \alpha_i \geq 0 , i=1,2,...,N \\ & 1-y_i(w^Tx_i+b) \leq 0 , i=1,2,...,N \end{aligned}\]

由此得w^*=\sum_{i=1}^{N} \alpha_i^*y_ix_i,其中至少有一个\alpha_j^*>0(用反正法,假设\alpha_j^*=0,由式可知w^*=0,而w^*=0不是原始最优化问题的解,产生矛盾),由此对j有:

    \[y_j(w^*\cdot x_j+b^*) - 1 = 0\]

将式代入并注意到y_j^2=1,即得:

    \[\begin{aligned} b^* =& y_j - w^{*}x_j \\ =& y_j - \sum_{i=1}^{N} \alpha_i^*y_i(x_ix_j) \end{aligned}\]

由此定理可知,分离超平面可以写成:\sum_{i=1}^{N} \alpha_i^*y_i(x\cdot x_i) + b^* = 0

分类决策函数可以写成:f(x) = sign(\sum_{i=1}^{N} \alpha_i^*y_i(x\cdot x_i) + b^*)

这就是说,分类决策函数只依赖于输入x和训练样本输入得内积。上式称为线性可分支持向量机得对偶形式。

综上所述,对于给定得线性可分训练数据集,可以首先求对偶we难题的解\alpha^*;再利用公式求得原始问题的解w^*,b^*;从而得到分离超平面及分类决策函数。这种算法称为线性可分支持向量机的对偶学习算法,是线性可分支持向量机学习的基本算法。

线性支持向量机与软间隔最大化

接下来谈谈线性不可分的情况,因为线性可分这种假设实在是太有局限性了。下图就是一个典型的线性不可分的分类图,我们没有办法用一条直线去将其分成两个区域,每个区域只包含一种颜色的点。

要想在这种情况下的分类器,有两种方式,一种是用曲线去将其完全分开,曲线就是一种非线性的情况,跟之后将谈到的核函数有一定的关系:

另外一种还是用直线,不过不用去保证可分性,就是包容那些分错的情况,不过我们得加入惩罚函数,使得点分错的情况越合理越好。对一个分错的点的惩罚函数就是这个点到其正确位置的距离:

在上图中,蓝色、红色的直线分别为支持向量所在的边界,绿色的线为决策函数,那些紫色的线表示分错的点到其相应的决策面的距离,这样我们可以在原函数上面加上一个惩罚函数,并且带上其限制条件为:

    \[\min \frac{1}{2}\|w\|^{2}+C \sum_{i=1}^{R} \varepsilon_{i}, s . t ., y_{i}\left(w^{T} x_{i}+b\right) \geq 1-\varepsilon_{i}, \varepsilon_{i} \geq 0\]

公式为在线性可分问题的基础上加上的惩罚函数部分,当x_i在正确一边的时候,\varepsilon = 0,R为全部的点的数目,C是一个由用户去指定的系数,表示对分错的点加入多少的惩罚,当C很大的时候,分错的点就会更少,但是过拟合的情况可能会比较严重,当C很小的时候,分错的点可能会很多,不过可能由此得到的模型也会不太正确,所以如何选择C是有很多学问的,不过在大部分情况下就是通过经验尝试得到的。

接下来就是同样的,求解一个拉格朗日对偶问题,得到一个原问题的对偶问题的表达式:

    \[\begin{array}{l}{\max _{\alpha} \sum_{i=1}^{n} \alpha_{i}-\frac{1}{2} \sum_{i, j=1}^{n} \alpha_{i} \alpha_{j} y_{i} y_{j} x_{i}^{T} x_{j}} \\ {\text { s.t. }, C \geq \alpha_{i} \geq 0, i=1, \cdots, n} \\ {\sum_{i=1}^{n} \alpha_{i} y_{i}=0}\end{array}\]

在线性不可分情况下得到的对偶问题,不同的地方就是α的范围从[0, +∞),变为了[0, C],增加的惩罚\varepsilon没有为对偶问题增加什么复杂度。

非线性支持向量机与核函数

在这之前我们都假设样本空间是线性可分的,然而在很多现实任务中,原始样本可能并不存在一个能正确分类的线性超平面。那怎么办呢?对于这样的问题,我们可以将样本从原始空间映射到一个更高维的特征空间,使得样本在这个特征空间内线性可分,然后再运用SVM求解。

下图是一个典型的线性不可分的情况:

但是当我们把这两个类似于椭圆形的点映射到一个高维空间后,映射函数为:z_{1}=x_{1}^{2}, z_{2}=x_{2}^{2}, z_{3}=x_{2}

用这个函数可以将上图的平面中的点映射到一个三维空间(z_1,z_2,z_3),并且对映射后的坐标加以旋转之后就可以得到一个线性可分的点集了。

回忆刚刚得到的对偶问题表达式:

    \[\begin{array}{l}{\max _{\alpha} \sum_{i=1}^{n} \alpha_{i}-\frac{1}{2} \sum_{i, j=1}^{n} \alpha_{i} \alpha_{j} y_{i} y_{j} x_{i}^{T} x_{j}} \\ {\text { s.t. }, C \geq \alpha_{i} \geq 0, i=1, \cdots, n} \\ {\sum_{i=1}^{n} \alpha_{i} y_{i}=0}\end{array}\]

我们可以进行改造,令:x_{i}^{T} x_{j}=\kappa\left(x_{i}, x_{j}\right)。这个式子所做的事情就是将线性的空间映射到高维的空间,\kappa\left(x_{i}, x_{j}\right)有很多种,下面是比较典型的两种:

    \[\kappa\left(x_{i}, x_{j}\right)=\left(x_{i} \cdot x_{j}+1\right)^{d}\]

    \[\kappa\left(x_{i}, x_{j}\right)=\exp \left(-\frac{\left(x_{i}-x_{j}\right)^{2}}{2 \sigma^{2}}\right)\]

上面这个核称为多项式核,下面这个核称为高斯核,高斯核甚至是将原始空间映射为无穷维空间,另外核函数有一些比较好的性质,比如说不会比线性条件下增加多少额外的计算量,等等,这里也不再深入。一般对于一个问题,不同的核函数可能会带来不同的结果,一般是需要尝试来得到的。

SVM优缺点总结

SVM优点

  • 由于SVM是一个凸优化问题,所以求得的解一定是全局最优而不是局部最优。
  • 不仅适用于线性线性问题还适用于非线性问题(用核技巧)。
  • 拥有高维样本空间的数据也能用SVM,这是因为数据集的复杂度只取决于支持向量而不是数据集的维度,这在某种意义上避免了“维数灾难”。
  • 理论基础比较完善(例如神经网络就更像一个黑盒子)。
  • 解决小样本下机器学习问题
  • 无需依赖整个数据
  • 泛化能力比较强

SVM缺点:

  • 二次规划问题求解将涉及m阶矩阵的计算(m为样本的个数), 因此SVM不适用于超大数据集。(SMO算法可以缓解这个问题)
  • 只适用于二分类问题。(SVM的推广SVR也适用于回归问题;可以通过多个SVM的组合来解决多分类问题)
  • 当观测样本很多时,效率并不是很高
  • 对非线性问题没有通用解决方案,有时候很难找到一个合适的核函数
  • 对于核函数的高维映射解释力不强,尤其是径向基函数
  • 对缺失数据敏感

如何在 Python中使用 SVM?

Scikit-learn里对SVM的算法实现都包在sklearn.svm下面,其中SVC类是用来进行进行分类的任务,SVR是用来进行数值回归任务的。不同的核函数需要指定不同的参数。针对线性函数,只需要指定参数C,它表示对不符合最大间距规则的样本的惩罚力度。针对多项式核函数,除了参数C外,还需要指定degree,它表示多项式的阶数。针对高斯核函数,除了参数C外,还需要指定gamma值,这个值对应的是高斯函数公式中的\frac{1}{2\sigma ^2}的值。

使用线性核函数

使用rbf核函数(高斯核函数)

gamma 值越大,SVM 就会倾向于越准确的划分每一个训练集里的数据,这会导致泛化误差较大和过拟合问题。

C: 错误项的惩罚参数 C。它还控制平滑决策边界和正确分类训练点之间的权衡。

多项式核函数

svc = svm.SVC(kernel=’poly’, degree=4).fit(X, y)

参考链接:

打赏作者
微信支付标点符 wechat qrcode
支付宝标点符 alipay qrcode

黑客马拉松 (Hackathon):POI去重记录

10月24日参加了公司举办的黑客马拉松,我们选的题目是POI的去重。给到的数据格式如下: 目标是去重重复数据。
标点符
2 min read

scikit-learn中的文本特征提取

文本分析是机器学习算法的主要应用领域。由于大部分机器学习算法只能接收固定长度的数值型矩阵特征,导致文本字符串等
标点符
2 min read

斯坦福大学自然语言处理包StanfordNLP

最近在推荐点评的影响抽取,中间涉及到分词后的词性识别,看了各种开源分词工具,主要是词性标注集存在差异,最终选定
标点符
3 min read

发表评论

电子邮件地址不会被公开。 必填项已用*标注