核技巧在支持向量机中的应用
应用 技巧 支持 向量
2023-09-14 09:06:54 时间
核技巧
对于线性可分问题,我们使用感知机、逻辑回归、支持向量机等等算法都可以解决文图,但是对于非线性问题,我们就需要对算法做一些改进,比如使用核技巧的方法。
非线性支持向量机就利用核技巧来解决线性不可分问题。同时核技巧还应用于其他统计学习问题。
先来介绍一下非线性分类问题,前面讲的线性可分问题,是说,我们可以找到一个超平面或者直线将样本全部正确分类,那对于非线性问题,其实这时候用直线或超平面已经行不通,只能用椭圆,圆,多边形等等或者超曲面来将样本划分。
上面第一张图就是非线性分类问题的一个典型代表,如图样本在图形中分为两类,一类蓝的小圆圈、一类红的小叉叉,对于空中分布的这两类样本我们使用直线显然是无法将它们正确划分的,上图用的是椭圆将这两类样本划分。
那么第二个图是什么意思呢?
其实线性分类器往往很不好求解,就是说我们很难求得一个非线性数学模型,这个数学模型的表达式往往我们很难猜到,无从下手。所以为了能解决非线性问题,所采用的方法是进行一个非线性变换,将非线性问题变换为线性问题,通过解变换后的线性问题来求解原来的非线性问题,上述第二个图就是这个意思,上图做了一个非线性变换,将样本做了一个映射,映射到新的坐标系之变成了线性可分问题。
核技巧在支持向量机中的想法就是,通过一个非线性变换将输入空间对应于一个特征空间,使得输入空间的划分样本的超曲面模型对应特征空间中的超平面模型,这样我们只需要求解变换后的先行问题。
相关文章
- python应用-解决应用题
- 从 VLAN 到 IPVLAN: 聊聊虚拟网络设备及其在云原生中的应用
- SpringCloud 应用在 Kubernetes 上的最佳实践 —— 高可用(容量评估)
- sql server 中将由逗号“,”分割的一个字符串,转换为一个表,并应用与 in 条件
- 持续部署单页应用的7大技巧
- 【STM32H7教程】第84章 STM32H7的SPI 总线应用之SPI Flash的MDK下载算法制作
- 关于使用 SAP UI5 代码设置应用 theme 的技巧
- Angular应用只执行指定单元测试的小技巧
- Angular 服务器端渲染应用一个常见的内存泄漏问题
- ML之FE:在特征工程/数据预处理阶段对【数值型/数字型】特征变量进行处理的技术总结(类别化/特征分箱)、经验技巧、案例应用之详细攻略
- sklearn之pipeline:pipeline函数/make_pipeline函数的简介及其区别联系、使用技巧、案例应用之详细攻略
- ML之XGBoost:XGBoost案例应用实战(原生接口实现+Scikit-learn接口实现)
- C语言最值头文件:小数最值的应用
- 第四范式x英特尔“AI应用与异构内存编程挑战赛”圆满收官
- Android 如何从应用返回待机界面(HOME)
- RK3399平台开发系列讲解(应用开发篇)1.2、I2C总线节点的使用
- DataScience之ME:平均数编码(Mean Encoding)的简介、代码实现、案例应用之详细攻略
- DL之VGGNet:VGGNet算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略
- 2022年山东省职业院校技能大赛网络搭建与应用赛项正式赛题