搜文章
推荐 原创 视频 Java开发 iOS开发 前端开发 JavaScript开发 Android开发 PHP开发 数据库 开发工具 Python开发 Kotlin开发 Ruby开发 .NET开发 服务器运维 开放平台 架构师 大数据 云计算 人工智能 开发语言 其它开发
Lambda在线 > PPV课数据科学社区 > 译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

PPV课数据科学社区 2017-11-29

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

一、介绍

数据分类是机器学习中非常重要的任务。支持向量机(SVM)广泛应用于模式分类和非线性回归领域。 SVM算法的原始形式由Vladimir N.Vapnik和Alexey Ya提出。自从那以后,SVM已经被巨大地改变以成功地用于许多现实世界问题,例如文本(和超文本)分类,图像分类,生物信息学(蛋白质分类,癌症分类),手写字符识别等。

 

二、目录

  1. 什么是支持向量机?

  2. SVM是如何工作的?

  3. 推导SVM方程

  4. SVM的优缺点

  5. 用Python和R实现

 

1.什么是支持向量机(SVM)?

支持向量机是一种有监督的机器学习算法,可用于分类和回归问题。它遵循一种用核函数技巧来转换数据的技术,并且基于这些转换,它找到可能输出之间的最佳边界。

 

简单来说,它做一些非常复杂的数据转换,以找出如何根据标签或输出定义的数据分离。本文我们将看到SVM分类算法。 

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 

2.SVM是如何工作的?

主要思想是确定最大化训练数据的最佳分离超平面。让我们逐项地来理解这个客观术语。

 

什么是分离超平面?

 

我们看到,上图中给出的数据是可以分离的。例如,我们可以绘制一条线,其中线下方的所有点都是绿色的,而线上方的点是红色的。这样的线被称为分离超平面。

 

这时你可能会疑惑,它是一条线为什么它叫一个超平面?

 

在上面的图中,我们已经考虑了最简单的示例,即数据集位于2维平面()中。但是支持向量机也可以用于一般的n维数据集。在更高维度的情况下,超平面是平面的概括。

 

更正式地说,它是n维欧几里德空间的n-1维子空间。所以一个

 

  • 1维数据集,单点表示超平面。

  • 2维数据集,线是超平面。

  • 3维数据集,平面是超平面。

  • 在更高的维度上,就被称为超平面。

 

我们已经说SVM的目标是找到最佳分离超平面。那么什么时候分离超平面是最优的?

 

事实上,存在分离数据集的超平面并不意味着它是最优的。

 

让我们通过一组图来理解最佳超平面。

 

1、多重超平面

有多个超平面,但其中哪一个是分离超平面? 可以很容易地看出,线B是最好地分离这两个类的线。

 

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 

2、多分离超平面

数据集可以有多个分离,我们如何找到最佳的分离超平面? 直观地,如果我们选择接近一个类的数据点的超平面,那么它可能不能很好地推广。因此,要选择尽可能远离每个类别的数据点的超平面。

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 

在上图中,满足指定条件的最佳超平面为B。

 

因此,最大化每个类的最近点和超平面之间的距离就能找到最优分离超平面。这个距离称为边距。

SVM的目标是找到最佳超平面,因为它不仅分类现有数据集,而且有助于预测未知数据的类。最优超平面是边距最大的平面。

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

  3.推导SVM方程

现在我们已经了解了这个算法的基本组成,让我们直接了解SVM的数学组成。

 

我将假设你熟悉基本的数学概念,如矢量,矢量算术(加法,减法,点积)和正交投影。这些概念也可以在文章“机器学习线性代数的先决知识”(http://blog.hackerearth.com/prerequisites-linear-algebra-machine-learning)中找到。

 

超平面方程

 

你将会看到一条直线方程,如译:支持向量机(SVM)及其参数调整的简单教程(Python和R),其中m是斜率,c是直线在y轴的截距。

 

超平面的一般方程如下:译:支持向量机(SVM)及其参数调整的简单教程(Python和R) 

其中译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)是向量,译:支持向量机(SVM)及其参数调整的简单教程(Python和R)是两个向量的点积。向量译:支持向量机(SVM)及其参数调整的简单教程(Python和R)通常被称为权重。

 

直线方程可化为译:支持向量机(SVM)及其参数调整的简单教程(Python和R),这时,译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 

它只是表示同一事物的两种不同的方式。那么为什么我们使用译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

? 简单地,因为在更高维度数据集的情况下该式子更容易处理,并且表示垂直于超平面的向量。 一旦我们开始计算从点到超平面的距离,这个属性将是有用的。

 

理解约束

 

我们的分类问题中的训练数据是在译:支持向量机(SVM)及其参数调整的简单教程(Python和R)上的。这意味着训练数据集是一对译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)是n维特征向量,译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)的标签。当译:支持向量机(SVM)及其参数调整的简单教程(Python和R)意味着具有特征向量译:支持向量机(SVM)及其参数调整的简单教程(Python和R)的样本属于类1,并且如果译:支持向量机(SVM)及其参数调整的简单教程(Python和R)意味着样本属于类-1。

 

在分类问题中,我们尝试找出一个函数译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)从训练数据集中学习,然后应用其知识来分类未知数据。译:支持向量机(SVM)及其参数调整的简单教程(Python和R)的值可以是无穷大的数,所以我们必须限制我们正在处理的函数类。在SVM的情况下,这类函数是表示为译:支持向量机(SVM)及其参数调整的简单教程(Python和R)的超平面的函数。

 

它也可以表示为译:支持向量机(SVM)及其参数调整的简单教程(Python和R)


这将输入的空间分成两部分,一部分包含类-1的向量,另一部分包含类+1的向量。

 

对于本文的其余部分,我们将考虑2维向量。令译:支持向量机(SVM)及其参数调整的简单教程(Python和R)是一个超平面,用于分隔数据集并满足以下条件: 译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)一起,我们可以选择两个其他超平面译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R),使得它们也分离数据并具有以下等式:译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 这使译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)以及译:支持向量机(SVM)及其参数调整的简单教程(Python和R)等距。变量δ不是必要的,因此我们可以设置δ=1以简化问题,有译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 

接下来,我们要确保它们之间没有点。因此,我们将仅选择满足以下约束的超平面:

 

对于每个向量有:

1、译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)属于类1;

2、译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)属于类-1。

译:支持向量机(SVM)及其参数调整的简单教程(Python和R) 

组合约束

 

上述两个约束可以组合成一个约束。

 

约束1:

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)属于类-1,译:支持向量机(SVM)及其参数调整的简单教程(Python和R)将两边乘以译:支持向量机(SVM)及其参数调整的简单教程(Python和R)(对于该方程它总是为-1)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)意味着译:支持向量机(SVM)及其参数调整的简单教程(Python和R),因为译:支持向量机(SVM)及其参数调整的简单教程(Python和R)属于类-1。


约束2:


译:支持向量机(SVM)及其参数调整的简单教程(Python和R)译:支持向量机(SVM)及其参数调整的简单教程(Python和R)属于类1,译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

结合上述两个方程,我们得到:译:支持向量机(SVM)及其参数调整的简单教程(Python和R),对所有的译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 

这得到了唯一的约束,而不是在数学上等价的两个约束。组合的新约束也具有相同的效果,即两个超平面之间没有点。

 

边距最大化

 

为了简单起见,我们将跳过计算边际的公式的推导,译:支持向量机(SVM)及其参数调整的简单教程(Python和R) 

此公式中唯一的变量是译:支持向量机(SVM)及其参数调整的简单教程(Python和R),它与译:支持向量机(SVM)及其参数调整的简单教程(Python和R)间接成比例,因此边距最大化我们将使译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

最小,从而得到以下优化问题: 

使译:支持向量机(SVM)及其参数调整的简单教程(Python和R)最小,其中译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 

以上是我们的数据是线性可分的情况。在许多情况下,数据不能通过线性分离完全分类。在这种情况下,支持向量机寻找超平面,要最大化边距并最小化错误分类。

 

为此,我们引入了松弛变量,译:支持向量机(SVM)及其参数调整的简单教程(Python和R),它允许一些对象从边缘掉落,但要惩罚他们。 

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

在这种情况下,算法尝试保持松弛变量为零,同时最大化余量。然而,它从边界超平面最小化了错误分类的距离的总和,而不是错误分类的数量。

 

现在将约束改为译:支持向量机(SVM)及其参数调整的简单教程(Python和R),将优化问题改为:使译:支持向量机(SVM)及其参数调整的简单教程(Python和R)最小化,其中,译:支持向量机(SVM)及其参数调整的简单教程(Python和R)


这里,参数C是控制在松弛变量惩罚(错误分类)和边距的宽度之间权衡的正则化参数。

 

  • 较小的C使得约束容易忽略,这导致大的边距。

  • 较大的C允许约束难以被忽略,这导致小的边距。

  • 对于译:支持向量机(SVM)及其参数调整的简单教程(Python和R),强制执行所有约束。

 

分离两类数据的最简单的是在2维数据的情况下的线和在3维数据的情况下的平面。 但是并不可能总是使用线或平面,并且还需要在非线性区域来分离这些类。支持向量机通过使用内核函数来处理这种情况,内核函数将数据映射到不同的空间,其中线性超平面可用于分离类。这被称为核函数技巧,其中内核函数将数据变换到更高维的特征空间,使得线性分离是可能的。

 

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 

如果译:支持向量机(SVM)及其参数调整的简单教程(Python和R)是将译:支持向量机(SVM)及其参数调整的简单教程(Python和R)映射到译:支持向量机(SVM)及其参数调整的简单教程(Python和R)的内核函数,则约束更改为译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 且优化问题为:使译:支持向量机(SVM)及其参数调整的简单教程(Python和R)最小化,其中,译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

 

本文我们不讨论这些优化问题的解决方案。 用于解决这些优化问题的最常用的方法是凸优化(Convex Optimization)。

 

4、支持向量机的优缺点

每个分类算法都有自己的优点和缺点,它们根据正在分析的数据集发挥作用。

SVM的一些优点如下:

 

  • 凸优化方法的本质是保证最优性。该解决方案保证是全局最小值,而不是局部最小值。

  • SVM是一种适用于线性和非线性可分离数据(使用核函数技巧)的算法。唯一要做的是找出正则化项C。

  • SVM在低维和高维数据空间上工作良好。它能有效地对高维数据集工作,因为SVM中的训练数据集的复杂度通常由支持向量的数量而不是维度来表征。即使删除所有其他训练示例并重复训练,我们将获得相同的最佳分离超平面。

  • SVM可以在较小的训练数据集上工作,因为它们不依赖于整个数据。

 

SVM的缺点如下:

 

  • 它们不适合较大的数据集,因为在较大的数据集上使用SVM的训练时间可能很高,并且计算量更大。

  • 它们在具有重叠类的嘈杂数据集上效率较低。

 

用Python和R实现

让我们来看看用于在Python和R中实现SVM的库和函数。

 

5、Python实现

 

在Python中实现机器学习算法的最广泛使用的库是scikit-learn。scikit-learn中用于SVM分类的类是 svm.SVC()

sklearn.svm.SVC(C=1.0, kernel='rbf', degree=3, gamma='auto')

 

参数如下:

 

  • C:误差项的正则化参数C。

  • kernel:它指定要在算法中使用的内核类型。它可以是'linear','poly','rbf','sigmoid','precomputed'或callable。 默认值为“rbf”。

  • degree:它是多项式核函数('poly')的设置,并被所有其他内核忽略。 默认值为3。

  • gamma:它是'rbf','poly'和'sigmoid的核系数。如果gamma是'auto',则将使用1 / n个特征数。

 

还有很多高级参数,我在这里没有讨论。你可以点击这里查看(http://scikit-learn.org/stable/modules/generated/sklearn.svm.SVC.html#sklearn.svm.SVC)。

 译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

还可以通过更改参数和内核函数来调整SVM。 调整scikit-learn中可用参数的函数为gridSearchCV()

 

sklearn.model_selection.GridSearchCV(estimator,param_grid)

 

此函数的参数定义如下:

 

  • estimator:它是估计器对象,在我们的例子中是svm.SVC()

  • param_grid:它是具有参数名称(字符串)作为键的字典或列表,以及尝试作为值的参数设置列表。

 

想要了解更多关于GridSearch.CV()的其他参数,请点击这里(http://scikit-learn.org/stable/modules/generated/sklearn.model_selection.GridSearchCV.html#)。

译:支持向量机(SVM)及其参数调整的简单教程(Python和R)

在上面的代码中,我们考虑调整的是核函数的参数,C和gamma。 从中得到最佳值的值是写在括号中的值。这里,我们只给出了几个值,也可以给出整个范围的值,但是它需要更长的执行时间。

 

R实现

 

我们在R中实现SVM算法的包是e1071。使用的函数是svm()

 总结

 

在本文中,我给出了SVM分类算法的非常基本的解释。我已经省略了一些复杂的数学问题,如计算距离和解决优化问题。但我希望通过这篇文章,你能了解一个机器学习算法SVM是如何基于已有的数据集建立起来的。


PPV课小组翻译  译:恬甜淡淡  转载请联系授权


版权声明:本站内容全部来自于腾讯微信公众号,属第三方自助推荐收录。《译:支持向量机(SVM)及其参数调整的简单教程(Python和R)》的版权归原作者「PPV课大数据」所有,文章言论观点不代表Lambda在线的观点, Lambda在线不承担任何法律责任。如需删除可联系QQ:516101458

文章来源: 阅读原文

相关阅读

关注PPV课大数据微信公众号

PPV课大数据微信公众号:ppvke123

PPV课大数据

手机扫描上方二维码即可关注PPV课大数据微信公众号

PPV课大数据最新文章

精品公众号随机推荐

上一篇 >>

Flask钩子函数