返回 导航

Python

hangge.com

Python - 机器学习算法库Scikit-Leran使用详解7(SVM分类算法)

作者:hangge | 2022-09-09 08:10

八、SVM 分类算法

1,基本介绍

(1)支持向量机,英文全称“Support Vector Machines”(简称 SVM),它是机器学习中最常用的一种“分类算法”。在深度学习没有普及之前,“支持向量机”可以称的上是传统机器学习中的“霸主”。
(2)建立一个最优决策超平面,使得该平面两侧距离该平面最近的两类样本之间的距离最大化,从而对分类问题提供良好的泛化能力。对于一个多维的样本集,系统随机产生一个超平面并不断移动,对样本进行分类,直到训练样本中属于不同类别的样本点正好位于该超平面的两侧,满足该条件的超平面可能有很多个,SVM 正式在保证分类精度的同时,寻找到这样一个超平面,使得超平面两侧的空白区域最大化,从而实现对线性可分样本的最优分类。

(3)支持向量机的三个重要部件为:最大间隔、高维映射、核函数。而高维映射的核心就是“核函数”,它在支持向量机中承担着两项任务,一是增加空间的维度,二是完成现有数据从原空间到高维空间的映射。
    在 Pyhthon Sklearn 库提供了多种核函数,使用不同的核函数会对最终的分类效果带来不同程度影响,因此要选择使得分类效果最优的核函数。具体核函数如下:
  • linear:选择线性函数;
  • polynomial:选择多项式函数;
  • rbf:选择径向基函数;
  • sigmoid:选择 Logistics 函数作为核函数;
  • precomputed:使用预设核值矩阵,
  • SVC 类默认以径向基函数作为核函数。

2,使用样例

(1)下面我们以 sklearn 库中自带的鸢尾花数据集对 SVM 算法进行简单的应用。
    支持向量机算法被包含在 sklearn.svm 模块中,该模块提供了 7 个常用类,这些不同的类分别应用了不同的核函数,因此它们可以解决不同的问题,比如分类问题、回归问题以及无监督学习中的异常点检测等。下面是对这个7个类的简单介绍:
  • LinearSVC:基于线性核函数的支持向量机分类算法
  • LinearSVR:基于线性核函数的支持向量机回归算法
  • SVC:可选择多种核函数的支持向量机分类算法,通过“kernel”参数可以传入(默认以径向基函数作为核函数)
  • SVR:可选择多种核函数的支持向量机回归算法
  • NuSVC:与 SVC 非常相似,但可通过参数“nu”设置支持向量的数量
  • NuSVR:与 SVR 非常相似,但可通过参数“nu”设置支持向量的数量
  • OneClassSVM:用支持向量机算法解决无监督学习的异常点检测问题
#导入 sklearn 提供的鸢尾花数据
from sklearn.datasets import load_iris
#导入 导入skleran 提供的支持向量机算法
from sklearn.svm import SVC
#导入skleran 提供的分割数据集的方法
from sklearn.model_selection import train_test_split
#导入pandas
import pandas as pd
   
#加载数据集
iris = load_iris()
#分割数据集训练集,测试集
x_train,x_test,y_train,y_test=train_test_split(iris['data'],iris['target'],random_state=0)
#使用SVM.SVC分类算法搭建预测模型,并以径向基函数做为核函数的实现高维映射
model=SVC(kernel='rbf')
#训练模型
model.fit(x_train,y_train)
#训练后用测试集对模型进行评分
print("模型评分:",model.score(x_test,y_test))
print('-----------------------------------------------------')
   
print('测试集前5条数据特征值:')
print(pd.DataFrame(x_test).head(5))
print('-----------------------------------------------------')
print('测试集前5条数据目标值:')
print(pd.DataFrame(y_test).head(5))
print('-----------------------------------------------------')
#使用模型预测
y_predict=model.predict(x_test)
print('使用模型预测测试集前5条数据的目标值:')
print(pd.DataFrame(y_predict).head(5))

(2)运行结果如下:
评论

全部评论(0)

回到顶部