笔者比较懒能截图的地方都截图了.
支持向量机分为三类：
（1）线性可分支持向量机,样本线性可分,可通过硬间隔最大化训练一个分类器.
上面最不好理解的恐怕就是硬间隔和软间隔了,
说白了硬间隔就是说存在这么一个平面,可以把样本完全正确无误的分开,当然这是一种极理想的情况,现实中不存在,所以就有了软间隔.
软间隔说的是,不存在一个平面可以把样本完全正确无误的分开,所以呢呢允许一些样本被分错,怎么做呢就是加入松弛变量,因为希望分错的样本越小越好,所以呢松弛变量也有约束条件.加入松弛变量后,问题就变为线性可分了,因为是每一个样本都线性可分,所以呢松弛变量是针对样本的,每一个样本都对应一个不同的松弛变量.
其实感知机说白了就是找到一条直线把样本点分开,就是上方都是一类,下方是另一类.当然完全分开是好事,往往是不能完全分开的,所以呢就存在一个损失函数,就是误分类点到这个平面的距离最短：
这里啰嗦一句,误分类点y*(wx+b)0,所以加个负号在前边.
一般情况下||w||都是可以缩放,那么我们把它缩放到1,最后的目标函数就变成了
间隔就是距离,我们假设分离超平面为 ,那么样本点到这个平面的距离可以记为 .我们都知道通过感知机划分的点,超平面上方的点 ,下方的点 ,然后通过判断 的值与y的符号是否一致来判断分类是否正确.根据这个思路函数间隔定义为：
再通俗一点说,支持向量是一些点,这些点到分隔平面的距离最近,为了便于表示,把他们进行一下缩放计算,让他们满足了wx+b=+-1.
核函数是支持向量机的核心概念之一,它存在的目的就是将维度转换之后的计算简化,达到减少计算量的目的.我们都知道支持向量机求的是间距最大化,通常情况下我们求得的alpha都等于0,所以呢支持向量决定了间距最大化程度.
核函数的形式是这样的
其中x(i)和x(j)都是向量,他们两个相乘就是向量内积,相乘得到一个数.刚才说了目标函数一般只和支持向量有关,所以呢在做核函数计算之前,实际就是选择的支持向量进行计算.
这个写完下面得再补充
我们知道了支持向量的概念,那么支持向量机的目标函数是要使这两个支持向量之间的距离尽可能的远,因为这样才能更好地把样本点分开,当然支持向量也要满足最基本的约束条件,那就是分类正确,还有就是其他点到分隔平面的距离要大于等于支持向量到分隔平面的距离.
这种凸优化问题都可以通过拉格朗日算子进行优化,就是把约束条件通过拉格朗日系数放到目标函数上.这部分基础知识,就是拉格朗日算法可以将等式约束和不等式约束都加到目标函数上,完成求解问题的转换,但是要满足一些约束条件,也就是我们后边要说的kkt条件.
这里有个细节就是转换时候的加减号问题,这个和目标函数还有约束的正负号有关.一般这么理解,就是求最小化问题时候,如果约束是大于0的,那么拉个朗日算子可以减到这一部分,这样一来目标函数只能越来越小,最优解就是约束为0的时候,这个时候和没有约束的等价,再求最小就是原问题了.
这里是最小化问题,直接减掉这部分约束,然后后半部分永远大于等于0所以这个式子的值是要小于原来目标函数值的.我们知道当x满足原问题的约束条件的时候,最大化L就等于那个原目标函数.所以我们可以把这个问题转化为：
把它带回去原来的目标函数中,整理一下.
这个时候只要求最优的a,就可以求出w和b了.我们上边做了那么一堆转换,这个过程要满足一个叫做kkt条件的东西,其实这个东西就是把一堆约束条件整理到一起.
（1）原有问题的可行性,即h(x )=0,g(x )0
放到这里就是：
SMO算法的核心思想是求出最优化的a,然后根据之前推导得到的w,b,a之间的关系计算得到w和b,最后的计算公式是：
现在的问题就是怎么求a了.
SMO算法总共分两部分,一部分是求解两个a的二次规划算法,另一部分是选择两个a的启发式算法.
先说这个选择a的启发式算法部分：大神可以证明优先优化违反kkt条件的a可以最快获得最优解,至于咋证明的,就先不看了.
在讲支持向量机的求解算法时候,直接给出了核函数K,那么怎么去理解核函数呢.核函数的作用是解决样本点在高维空间的内积运算问题,怎么理解呢,通常的分类问题都是有很多个特征的,然后为了达到现线性可分,又会从低维映射到高维,样本量再一多计算量非常大,所以呢先通过函数进行一个转换,减少乘法的计算量.
核函数的种类：
这部分的核心在于SMO算法的编写.有待补充.
这是从物理实践中来,在物理计算中,经常会用到一个向量投影到另一个向量的方向,然后再乘以另一个向量的模.而且这样的算法表示固定的物理意义.由于经常会遇到这种问题,于是有人就这样定义了内积,是为了便于书写和直观辨认.一个式子太长或太复杂就会给计算带来很多的不便,定义了简便的式子有助有从数学上理解物理.至于为什么两个向量的内积是常数,这就是定义,定义成常数罢了.内积的公式还是很简单的,外积的就复杂得多.
SVM 是 Support Vector Machine 的简称,它的中文名为支持向量机,属于一种有监督的机器学习算法,可用于离散因变量的分类和连续因变量的预测.通常情况下,该算法相对于其他单一的分类算法（如 Logistic 回归、决策树、朴素贝叶斯、 KNN 等）会有更好的预测准确率,主要是因为它可以将低维线性不可分的空间转换为高维的线性可分空间.
"分割带"代表了模型划分样本点的能力或可信度,"分割带"越宽,说明模型能够将样本点划分得越清晰,进而保证模型泛化能力越强,分类的可信度越高；反之,"分割带"越窄,说明模型的准确率越容易受到异常点的影响,进而理解为模型的预测能力越弱,分类的可信度越低.
线性可分的 所对应的函数间隔满足 的条件,故 就等于 .所以,可以将目标函数 等价为如下的表达式：
假设存在一个需要最小化的目标函数 ,并且该目标函数同时受到 的约束.如需得到最优化的解,则需要利用拉格朗日对偶性将原始的最优化问题转换为对偶问题,即：
分割面的求解
分割面的表达式
对于非线性SVM模型而言,需要经过两个步骤,一个是将原始空间中的样本点映射到高维的新空间中,另一个是在新空间中寻找一个用于识别各类别样本点线性"超平面".
假设原始空间中的样本点为 ,将样本通过某种转换 映射到高维空间中,则非线性SVM模型的目标函数可以表示为：
其中,内积 可以利用核函数替换,即 .对于上式而言,同样需要计算最优的拉格朗日乘积 ,进而可以得到线性"超平面" 与 的值：
假设原始空间中的两个样本点为 ,在其扩展到高维空间后,它们的内积 如果等于样本点 在原始空间中某个函数的输出,那么该函数就称为核函数.
线性核函数的表达式为 ,故对应的分割"超平面"为：
多项式核函数的表达式为 ,故对应的分割"超平面"为：
高斯核函数的表达式为 ,故对应的分割"超平面"为：
Sigmoid 核函数的表达式为 ,故对应的分割"超平面"为：
以上就是土嘎嘎小编为大家整理的python向量积函数相关主题介绍,如果您觉得小编更新的文章只要能对粉丝们有用,就是我们最大的鼓励和动力,不要忘记讲本站分享给您身边的朋友哦！！